No sé si la inteligencia artificial (IA) nos dará una semana laboral de 4 horas, escribirá todos nuestros códigos y correos electrónicos y conducirá nuestros automóviles, o si destruirá nuestra economía y nuestra comprensión de la realidad, disparará nuestras armas nucleares, y luego convertirnos a todos en una sustancia gris. Posiblemente todo lo anterior. Pero de una cosa estoy sumamente seguro: nadie más lo sabe tampoco.
En noviembre se sacaron a la luz públicamente algunos trapos muy sucios en OpenAI, la organización de investigación de inteligencia artificial que nos trajo ChatGPT, cuando la junta anunció abruptamente el despido del director ejecutivo Sam Altman. Lo que siguió fue un juego de tronos nerd (asumiendo que los robots son más nerd que los dragones, una propuesta discutible) que consistió en un rápido desfile de tres directores ejecutivos y terminó con Altman nuevamente al mando. Las travesuras resaltaron los muchos ejes en los que incluso los expertos en IA mejor informados y más conectados no están de acuerdo. ¿Es la IA un gran problema o el mayor problema? ¿Le debemos a las generaciones futuras pisar los frenos o pisar el acelerador? ¿Se puede confiar esta tecnología al público en general? Y (la pregunta que parece haber impulsado más que cualquier otra cosa la reciente agitación) ¿quién diablos está a cargo aquí?
OpenAI tenía una estructura corporativa algo novedosa, en la que una junta sin fines de lucro encargada de tener en cuenta los mejores intereses de la humanidad se sentaba encima de una entidad con fines de lucro con Microsoft como un inversor importante. Esto es lo que sucede cuando el altruismo efectivo y los criterios ESG hacen hongos juntos mientras recaudan unos pocos miles de millones de dólares.
Después de los acontecimientos de noviembre, esta configuración particular no parece haber sido el enfoque correcto. Altman y su nueva junta dicen que están trabajando en la próxima versión de gobernanza junto con la próxima versión de su chatbot de IA. Mientras tanto, OpenAI tiene numerosos competidores, incluidos Bard de Google, Llama de Meta, Claude de Anthropic y algo que Elon Musk construyó en su sótano llamado Grok, varios de los cuales se diferencian por enfatizar diferentes combinaciones de seguridad, rentabilidad y velocidad.
Proliferan las etiquetas para las facciones. El grupo e/acc quiere “construir el dios máquina”. El tecnooptimista Marc Andreessen declaró en un manifiesto que “creemos que la inteligencia está en una espiral ascendente: en primer lugar, a medida que más personas inteligentes en todo el mundo son reclutadas para la máquina del tecnocapital; en segundo lugar, a medida que las personas forman relaciones simbióticas con las máquinas en nuevas formas cibernéticas”. sistemas como empresas y redes; tercero, a medida que la Inteligencia Artificial aumenta las capacidades de nuestras máquinas y de nosotros mismos”. Mientras tanto, Snoop Dogg está canalizando al pionero de la IA convertido en fatalista Geoffrey Hinton cuando dijo en un podcast reciente: “Entonces escuché al viejo que creó la IA decir: ‘Esto no es seguro porque las IA tienen su propia mente y estos hijos de puta van a empiezan a hacer sus propias cosas.’ Y yo pensaba: ‘¿Estamos en una puta película ahora mismo o qué?'” (Hinton dijo cableado“Snoop lo entiende”). Y los especialistas en seguridad siguen gritando la palabra barandillas. (Emmett Shear, quien fue seleccionado brevemente para el puesto de CEO de OpenAI, tuiteó útilmente esta brújula de facción para los no iniciados.)
Despierta cariño, la brújula de la facción AI se ha vuelto más relevante pic.twitter.com/MwYOLedYxV
-Emmett Shear (@eshear) 18 de noviembre de 2023
Si incluso nuestros mejores y más brillantes tecnólogos y teóricos están luchando por ver el camino a seguir para la IA, ¿qué hace que alguien piense que la élite del poder en Washington, DC y las capitales de los estados llegarán primero?
Cuando el lanzamiento de ChatGPT 3.5 hace aproximadamente un año desencadenó una carrera armamentista, los políticos y reguladores colectivamente giraron sus cabezas hacia la IA como una jauría de perros de la pradera.
Los legisladores estatales presentaron 191 proyectos de ley relacionados con la IA este año, según un informe de septiembre del grupo de la industria del software BSA. Eso es un aumento del 440 por ciento con respecto a la cantidad de proyectos de ley relacionados con la IA presentados en 2022.
En una audiencia de mayo del Subcomité Judicial del Senado sobre Privacidad, Tecnología y Derecho, en la que Altman testificó, los senadores y testigos citaron a la Administración de Alimentos y Medicamentos y a la Comisión Reguladora Nuclear como modelos para una nueva agencia de IA, y Altman declaró que esta última “una gran analogía” de lo que se necesita.
Los senadores Richard Blumenthal (D–Conn.) y Josh Hawley (R–Mo.) publicaron un marco regulatorio que incluye una nueva agencia reguladora de IA, requisitos de licencia, mayor responsabilidad para los desarrolladores y muchos más mandatos. Un proyecto de ley de los senadores John Thune (R-SD) y Amy Klobuchar (D-Minn.) es más suave y bipartidista, pero aun así representaría un enorme esfuerzo regulatorio nuevo. Y el presidente Joe Biden anunció una amplia orden ejecutiva sobre la IA en octubre.
Pero “Estados Unidos no tenía una Agencia Federal de Internet ni una Oficina Nacional de Software para la revolución digital”, como ha dicho Adam Thierer. escrito para el R Street Institute, “y ahora no necesita un Departamento de IA”.
Aparte del habitual riesgo de estrangulamiento de la innovación, existe la preocupación por la captura regulatoria. La industria tiene un puñado de actores importantes con miles de millones invertidos y una gran ventaja inicial, que se beneficiarían de regulaciones redactadas con sus aportes. Aunque ha expresado con razón su preocupación por “lo que les sucede a los países que intentan regular excesivamente la tecnología”, Altman también ha calificado las preocupaciones sobre la captura regulatoria como una “respuesta transparente e intelectualmente deshonesta”. Más importante aún, ha dicho: “Aquí no se debe confiar en ninguna persona… Si esto realmente funciona, es una tecnología bastante poderosa, y no se debe confiar en una sola empresa y ciertamente en ninguna persona”. Tampoco debemos confiar en nuestros políticos.
Un lado positivo: mientras los legisladores intentan determinar sus prioridades en materia de IA, otras regulaciones tecnológicas se han quedado en el camino. Las regulaciones sobre privacidad, vehículos autónomos y redes sociales han quedado sepultadas por la ola de nuevos proyectos de ley y el interés en la nueva y sexy amenaza tecnológica.
Una cosa está clara: no estamos en una Parque jurásico situación. En todo caso, estamos experimentando lo contrario de la famosa frase de Jeff Goldblum sobre los científicos que “estaban tan preocupados por si podían o no, que no se detuvieron a pensar si debían hacerlo”. Las personas más destacadas en IA parecen pasar la mayor parte de su tiempo preguntándose si deberían hacerlo. Es una buena pregunta. Simplemente no hay razón para pensar que los políticos o los burócratas harán un buen trabajo respondiéndola.