La IA piensa, luego la IA existo
Álbum / Alamy
Algunos de los mayores desafíos de la inteligencia artificial no están siendo abordados por científicos informáticos, concentrados en el código, sino por filósofos atraídos desde la academia a puestos de trabajo en empresas de inteligencia artificial. Los filósofos tienen la tarea de hacer que la próxima generación de modelos sea más capaz y confiable, pero también arrojan luz sobre el misterio de la conciencia y si la inteligencia puede replicarse únicamente en software.
Jonathan Birch, de la London School of Economics and Political Science, dice que las empresas de inteligencia artificial son los grandes empleadores de doctores en filosofía en este momento, con ofertas de trabajo interesantes, grandes salarios y opciones sobre acciones que resultan demasiado tentadoras para que muchos se resistan.
“Temas que se han investigado en los departamentos de filosofía durante décadas (cómo tomar decisiones racionales, cómo sistematizar principios morales, qué se considera pensamiento, razonamiento o introspección, qué se considera evidencia de conciencia) de repente tienen un valor enorme para las empresas de inteligencia artificial”, dice Birch. “Así que, naturalmente, estamos viendo una enorme fuga de cerebros”.
Una de las tareas clave de esta generación de filósofos es la alineación, el término de la industria de la IA para referirse a los esfuerzos por detener el contenido dañino, como revelar instrucciones sobre cómo fabricar bombas.
Los esfuerzos para impedir que los modelos de IA dieran resultados peligrosos se centraron inicialmente en colocar barreras de seguridad simples en blanco y negro, como prohibir a un modelo hablar por completo sobre bombas, por ejemplo. Pero resultaron torpes y fáciles de eludir. Ahora, las empresas están buscando métodos más avanzados que se basan en gran medida en la comprensión filosófica del bien y el mal.
Sin embargo, rara vez es sencillo. Los investigadores han descubierto que si le dices a un modelo que infrinja una regla en una situación específica, comenzará a infringir muchas otras reglas, dice Shane Glackin de la Universidad de Exeter en el Reino Unido. Y comprender por qué es exactamente el tipo de problema que el análisis lógico de la filosofía puede resolver.
“La mejor explicación para esto parece ser que hay un vínculo semántico profundo en el corpus de textos en el que se entrena que mantiene juntas las cosas bien codificadas y las mal codificadas. Y una vez que le permites hacer algo malo, se da cuenta de eso, lo extrapola y comienza a hacer otras cosas que son malas”, dice Glackin. “Como especialista en ética, una forma de ver lo que estamos haciendo es tratar de determinar la forma y el alcance de conceptos como el bien y el mal, o el bien y el mal, y tratar de determinar qué cosas se incluyen en ellos, en el uso común o conceptualmente, y ese parece ser exactamente el tipo de análisis que está haciendo el LLM”.
Otras tareas clave para los filósofos de las empresas de IA incluyen reducir las alucinaciones (el término industrial para las fabricaciones producidas por modelos), mejorando en general el rendimiento y abordando los sesgos inherentes a los modelos. También aplican teorías de la conciencia humana a los modelos de IA en un intento de responder a la persistente pregunta de si muestran sensibilidad.
“¿Qué hacen las mentes, qué hacen los cerebros, qué se puede replicar? Este es un gran tema para las IA. Es una pregunta realmente importante que deben responder esas empresas y es algo en lo que los filósofos han estado pensando durante mucho, mucho tiempo”, dice Glackin.
Las preguntas más espinosas
Mahrad Almotahari, de la Universidad de Edimburgo, Reino Unido, que conoce a dos académicos que se han pasado a empresas de inteligencia artificial y que también han asumido trabajos de asesoramiento para una empresa comercial, dice que la filosofía y la informática comparten una larga historia. De hecho, en la revista de filosofía Mind se publicó el artículo en el que Alan Turing desveló su famoso test, conocido como test de Turing, para determinar si una máquina podía mostrar rasgos de seres inteligentes.
Es difícil estimar la escala exacta de contratación, pero Aaron Kagan, presidente del Comité de Carreras No Académicas de la Asociación Filosófica Estadounidense, ha profundizado en los anuncios de empleo para obtener una idea. “Un recuento ingenuo de palabras clave sugiere que el 26,6 por ciento de los roles mencionan la ética, la seguridad, la alineación, la gobernanza o la política de la IA, pero después de eliminar el texto estándar, solo alrededor del 5 por ciento involucra sustancialmente ese trabajo”, dice Kagan.
Almotahari ve valor en la experiencia en filosofía para las empresas de tecnología, pero se muestra escéptico de que ellas respondan las preguntas más espinosas sobre la conciencia de las máquinas. En cambio, dice que los filósofos podrían ayudar a los ingenieros a separar lo que sucede dentro de los modelos.
“Están teniendo lugar todas estas matemáticas: ¿podemos extraer de ello una descripción de nivel superior de lo que está sucediendo en términos de, digamos, esta parte del modelo representa esa característica del mundo, y esta parte representa esta otra característica del mundo?” pregunta Almotahari. “Creo que los filósofos están bien posicionados para hacer eso, para pasar de la descripción de ingeniería a una descripción representacional”.
Otros ven un problema potencial en el horizonte: la contratación de filósofos por parte de la industria eventualmente conducirá a investigaciones sesgadas que sirvan a los intereses de las empresas de tecnología.
“En el futuro, está claro que gran parte del trabajo filosófico serio será financiado por la industria. Explícita o implícitamente, las empresas tienen expectativas que quieren que se cumplan y tienen el poder de favorecer a los autores que presenten argumentos e ideas bienvenidos”, dice Birch. “Ojalá hubiéramos progresado más en las grandes cuestiones de la filosofía (sobre la conciencia, la agencia, la moralidad, etc.) antes de la llegada de la IA. Si lo hubiéramos hecho, habríamos estado mejor preparados. La IA ha dado a estas preguntas una enorme urgencia y, sin embargo, las respuestas todavía parecen lejanas”.
Temas: