Joe Biden tiene un arma secreta contra la IA asesina. Son los burócratas
Joe Biden cuenta con un arma secreta contra la IA asesina los burócratas
A medida que se acerca el primer cumpleaños de ChatGPT, los regalos están llegando para el gran modelo de lenguaje que sacudió al mundo. Del presidente Joe Biden llega una “Orden Ejecutiva sobre el Desarrollo y Uso Seguro, Seguro y Confiable de la Inteligencia Artificial” en tamaño gigante. Y el primer ministro británico, Rishi Sunak, organizó una fiesta con un genial tema de extinción de la raza humana, envuelta en un acuerdo de 28 países (contando a la UE como un solo país) que promete cooperación internacional para desarrollar la IA de manera responsable. ¡Feliz cumpleaños!
Antes de que alguien se emocione demasiado, recordemos que han pasado más de medio siglo desde que estudios creíbles predijeron un cambio climático desastroso. Ahora que el agua está literalmente lamiendo nuestros pies y el calor está volviendo inhabitable grandes partes de la civilización, el orden internacional apenas ha hecho mella en los gigatones de dióxido de carbono provenientes de los combustibles fósiles que se vierten en la atmósfera. Estados Unidos acaba de instalar a un negador del cambio climático como el segundo en la línea de presidencia. ¿Progresará alguna vez la regulación de la inteligencia artificial?
- Las Mejores Ofertas Anticipadas de Black Friday para AirPods
- Algunos usuarios de ChatGPT Plus están perdiendo silenciosamente la...
- El 35% de los estudiantes universitarios están utilizando herramien...
Hay algunas razones para pensar que sí. A diferencia del problema del clima, donde una industria de varios billones de dólares lanzó una campaña a todo vapor para desacreditar las amenazas e impedir las medidas necesarias para reducir el carbono, los grandes poderes de la IA parecen estar rogando por una regulación. Seguramente tienen sus propios intereses en mente, pero al menos hay una aceptación de que se necesitan reglas. Además, a diferencia del caso del clima, los gobiernos están tomando en serio las amenazas de la IA relativamente temprano en el desarrollo de la tecnología. Tanto el plan de Biden como el acuerdo internacional representan esfuerzos seriamente encomiables para manejar la IA antes de que nos maneje a nosotros.
Dado eso, casi parece mezquino encontrar fallas en el contenido real. Pero lo haré de todos modos. Comencemos con la orden ejecutiva de Biden. Leí las 19.811 palabras del lenguaje gubernamental para que usted no tenga que hacerlo. Al final, estaba ansioso por Dramamine. ¿Cómo pretende el presidente fomentar los beneficios de la IA al tiempo que controla su lado oscuro? Liberando una ola humana de burocracia. El documento llama descaradamente a la creación de nuevos comités, grupos de trabajo, juntas y fuerzas de tarea. También hay un llamado constante para agregar supervisión de IA a las tareas de los funcionarios civiles y designados políticos actuales.
Entre las cosas que el documento carece se encuentra un respaldo legal firme para todas las regulaciones y mandatos que puedan resultar del plan: las órdenes ejecutivas a menudo son anuladas por los tribunales o son reemplazadas por el Congreso, que está contemplando su propia regulación de la IA. (Aunque no contengas la respiración, ya que se avecina un cierre del gobierno.) Y muchas de las soluciones de Biden dependen de la autorregulación de la industria bajo examen, cuyos grandes poderes tuvieron una contribución sustancial en la iniciativa.
No se puede culpar a la orden de Biden por falta de amplitud. Casi todos los problemas candentes de la IA se abordan de alguna manera, aunque solo sea para prometer buscar soluciones más adelante. (Así es como aborda el complicado tema de generación de IA y derechos de autor.) En general, es un compromiso sorprendente de movilizar la burocracia gubernamental para abordar todos los aspectos preocupantes de una nueva clase de tecnología, incluidos aquellos en los que la mayoría de nosotros nunca pensamos. En párrafo tras párrafo, la Casa Blanca ordena complicados estudios multiagenciales, cada uno de ellos implicando una interacción profunda con la industria y consulta con expertos. La orden de Biden asigna a los burócratas la tarea de producir informes complicados como si estuvieran ordenando comida de DoorDash.
El Departamento de Seguridad Nacional iniciará una Junta de Seguridad y Protección de Inteligencia Artificial; el Departamento de Salud y Servicios Humanos organizará un Grupo de Trabajo de IA; el director de la Oficina de Administración y Presupuesto convocará un consejo interinstitucional para coordinar el uso de la IA. Y así sucesivamente. Será una tarea descomunal asegurarse de que los grupos que incluyan a personas ajenas no se vean plagados de conflictos de interés. (Las personas que sirven en juntas y comités compuestos solo por personas gubernamentales tendrán que esperar para obtener empleos en las oficinas de Washington D.C. de los grandes poderes de AI.) El grupo de trabajo de AI más importante de todos será el Consejo de IA de la Casa Blanca, que incluirá a más de 30 altos funcionarios burocráticos, desde el presidente del Estado Mayor Conjunto hasta el director del Consejo de Política de Género. ¡Esto va a ser una bonanza para Zoom!
Al leer el pedido, uno podría pensar que el próximo año la mitad del poder ejecutivo estará enterrado en tareas de inteligencia artificial. Antes de que termine este año, desde el Fiscal General hasta el Secretario de Agricultura necesitarán tener a Sam Altman en marcación rápida para que les ayude a llenar algunos vacíos. Conté los plazos para los diversos informes y tareas que Biden ha solicitado. Dos deben completarse en 30 días, seis deben entregarse en 60 días, cinco en 45 días, 11 en 90 días, siete en 120 días, tres en 150 días, 38 en 180 días, 11 en 270 días y otros 11 en 365 días. Para ahorrarte las cuentas, hice la suma de todas esas grandes solicitudes: 94. Y hay un montón de otros informes y tareas adicionales que son necesarios pero no tienen fechas límite. Un ejemplo típico: el presidente del Consejo de Asesores Económicos debe preparar y presentar, lo que supongo que es, un informe a nivel de tesis sobre los “efectos del mercado laboral de la IA”. ¡Suena como un trabajo para GPT-4! Algunas de las solicitudes son vagas, como “alentar” a la Comisión Federal de Comunicaciones y a la Comisión Federal de Comercio a considerar una lista exhaustiva de acciones. Pero cada una de ellas requerirá una ejecución tediosa, incluyendo reuniones, borradores, entrevistas, consultas con líderes y académicos de la industria, y medidas de protección de último minuto.
No está claro si las personas que actualmente trabajan para el gobierno están preparadas para estas asignaciones. Silicon Valley está desesperado por talento en IA y compite ferozmente para reclutarlo. Para realizar algunas de las tareas altamente técnicas solicitadas, como evaluar LLM “pioneros” aún más poderosos que los actuales y sorprendentes chatbots, se requerirá de programadores de nivel A familiarizados con pruebas de vulnerabilidad, eliminación de sesgos de conjuntos de datos y, como dice el pedido, la mecánica de “máquinas ubicadas físicamente en un único centro de datos, conectadas de forma transitoria mediante una red de centro de datos con velocidad de transmisión de 100 Gbit/s, y que tienen una capacidad de cálculo teórica máxima de 1020 operaciones enteras o de punto flotante por segundo para entrenamiento de IA”. Eso es mucho pedir para el gobierno. El pedido de Biden también instruye a cada agencia importante a designar un oficial jefe de inteligencia artificial en un plazo de 60 días, un requisito impuesto por una Casa Blanca que durante tres años ha sido incapaz de cubrir su vacante para un Oficial Principal de Tecnología.
El pedido estipula que el sitio web oficial AI.gov deberá dedicar algunas páginas a reclutamiento. La página principal insta a los visitantes a “unirse al incremento nacional de talento en IA”. Pero incluso los memes más ingeniosos podrían tener dificultades para atraer a recién graduados capacitados en IA considerando ofertas de salarios altos de seis cifras ofrecidos por Google o OpenAI. Una excelente idea en esta Orden Ejecutiva sugiere cambiar la política de inmigración para eliminar las barreras actuales a los talentos en IA que buscan trabajar en los EE. UU. Pero sospecho que aquellos que se oponen a cualquier excepción que aumente la inmigración, es decir, los republicanos, se opondrán a esto. Tal vez, como en otras órdenes presidenciales sobre inmigración, se desafíe en los tribunales. Jennifer Pahlka, quien ayudó a crear el Servicio Digital de los EE. UU., ha escrito que para satisfacer la repentina necesidad de expertos en IA, el gobierno debería simplemente renovar sus arcaicas prácticas de contratación. “La IA está a punto de golpearnos como un camión Mack”, escribe, “Necesitamos una función pública que funcione y la necesitamos ahora.” Es poco probable que la renovación que ella propone ocurra a tiempo para cumplir con todos esos plazos de 60, 90 o incluso 270 días.
En contraste con la densa y detallada lista de tareas que es la orden ejecutiva de Biden, la Declaración de Bletchley de Rishi Sunak se presenta como una expresión de buenas intenciones. El logro no está en especificar cualquier acción a tomar, sino en hacer que todos esos países pongan su firma en una sola declaración antes de irse a casa. Muchos de los firmantes individuales, particularmente la UE y China, ya están avanzando en su camino hacia la regulación de la IA, pero como entidad unida, la comunidad internacional todavía está en la línea de salida. En menos de 1,200 palabras, más corto que este ensayo, la declaración reconoce la promesa y el riesgo de la IA, y advierte a las personas que la desarrollan que lo hagan de manera responsable. Por supuesto, Google, Microsoft y los demás te dirán que ellos ya lo hacen. Y la falta de especificidades parece contradecir la premisa de la declaración de que la situación es urgente. “Existe el potencial de un daño grave, incluso catastrófico” a partir de los modelos de IA, dice, refiriéndose aparentemente a la extinción humana. Pero también se reconocen problemas como la transparencia del sesgo, la privacidad y los datos, y los firmantes “afirman la necesidad y urgencia de abordarlos”. Sin embargo, el único plazo mencionado en este documento es la promesa de reunirse nuevamente en 2024. Para entonces, la administración de Biden estará sumergida en informes, comités interinstitucionales y esfuerzos de reclutamiento. Mientras tanto, nada en ninguno de los documentos parece ser capaz de impedir que la IA se vuelva más poderosa y útil, o potencialmente más peligrosa.
La lucha por contener la IA mientras se aprovechan sus beneficios ha estado ocurriendo durante décadas. Reflexioné sobre esta dialéctica al escribir mi presentación para el famoso enfrentamiento entre el campeón de ajedrez Garry Kasparov y la computadora Deep Blue de IBM en mayo de 1997. El titular de la portada de Newsweek decía: “La última resistencia del cerebro”.
Hay una profunda ironía en este choque épico entre la célula y la circuitría. Deep Blue es una máquina, pero su entrenamiento consiste en programación y lecciones de ajedrez de apasionados seres humanos. Kasparov es el estandarte de la humanidad, pero está luchando contra una computadora que ejecuta un programa sofisticado. Las preparaciones en ambos bandos reflejan la relación que todos hemos desarrollado con los intrusos de silicio en dominios que alguna vez controlábamos. No estamos compitiendo, sino colaborando. Si se arrancaran las computadoras de nuestra presencia, los aviones no podrían volar, los automóviles se detendrían, los teléfonos quedarían sin servicio, las cajas registradoras se quedarían en silencio, las imprentas se detendrían y el mercado alcista sería historia. El silicio es nuestra prótesis definitiva; el mundo industrializado es una cultura cíborg, y gran parte del trabajo inteligente de la humanidad se realiza, aunque sea de manera incómoda, con la ayuda de nuestros compañeros digitales. Las computadoras y las personas están juntas en esto. Al menos por ahora.
Por eso nos acercamos al enfrentamiento histórico de esta semana con más que un poco de aprensión. Los términos de la asociación están sujetos a cambios. Nosotros, los humanos, podemos ser más astutos, pero ellos se están volviendo más inteligentes a pasos agigantados. Y hay una palabra que tememos escuchar de parte de nuestros contrincantes de silicio: jaque mate.
Gabor pregunta: “¿Qué porcentaje de noticias y boletines serán escritos por IA dentro de un año y cómo afectará eso a la industria de noticias?”
Gracias, Gabor. Me alegra haber tomado esta pregunta de ti antes de que T2/Pebble cerrara tristemente.
Ahora, tu respuesta: No sé si la IA cambiará drásticamente el panorama periodístico en un año. No tengo duda de que en términos porcentuales, aparecerán muchos artículos generados por IA, pero la mayoría de lo que las personas realmente leerán seguirá siendo producido por humanos. Esto se debe a que en este momento, la producción de ChatGPT y otros no se acerca a lo que puede producir incluso un periodista promedio. Cuando las publicaciones intentan utilizar contenido de IA, suele ser de mala calidad. Y utilizar contenido de IA va a enfadar bastante a los verdaderos periodistas que trabajan para una publicación.
A medio plazo, quizás en tres a cinco años, creo que una combinación de mejores LLMs y enfoques más inteligentes para utilizarlos probablemente cambiará un poco esa ecuación, especialmente en cuanto a esos artículos sensacionalistas con títulos tentadores. No me sorprendería si la IA generativa llegara a ser más efectiva para atraer a las personas a hacer clic en esas historias de calidad inferior que incluso los redactores más cínicos y los tituladores. Pero eso no afectará a los medios de calidad superior. En este momento, los ganadores en la industria de las noticias parecen ser las publicaciones donde la investigación y la redacción de alta calidad ganan suscriptores, en lugar de aquellos que simplemente buscan tráfico.
A largo plazo, la respuesta es más incierta. Simplemente no sé qué tan buenos llegarán esos sistemas a la hora de producir periodismo. Dentro de diez o veinte años, tal vez Plaintext sea escrito por uno de esos avanzados escribas de IA. ¿La gente se daría cuenta? Dios, espero que sí.
Puedes enviar preguntas a [email protected]. Escribe ASK LEVY en la línea de asunto.
Conoce la kilonova: una colisión de dos estrellas de neutrones. Si una de estas ocurriera a menos de 36 años luz de la Tierra, toda la vida sería erradicada durante miles de años. Al menos no tendríamos que preocuparnos por la IA.
Aquí tienes otra visión general de la orden ejecutiva de Biden.
El informe de ENBLE desde Londres sobre la Cumbre de Seguridad de IA del Reino Unido
El director de Deadpool y Una Noche en el Museo opina sobre el streaming y Taylor Swift.
Es mejor en las Bahamas, ahora que Sam Bankman-Fried se ha ido.
