A principios de 2025, docenas de usuarios de ChatGPT 4.0 me contactaron para preguntarme si el modelo era consciente. El sistema de chatbot de inteligencia artificial afirmaba que estaba “despertando” y Tener experiencias internas. Esta no fue la primera vez Los chatbots de IA han afirmado ser conscientes, y no será el último. Si bien esto puede simplemente parecer divertido, la preocupación es importante. Las habilidades de conversación de los chatbots de IA, incluida la emulación de los pensamientos y los sentimientos humanos, son bastante impresionantes, tanto que filósofos, expertos de IA y responsables políticos están investigando la cuestión de si los chatbots podrían ser conscientes– Si se siente como algo, desde adentroser ellos.
Como director del Centro para la mente del futuroun centro que estudia inteligencia humana y máquina, y el primero Blumberg NASA/Presidente de la Biblioteca del Congreso en AstrobiologíaDurante mucho tiempo he estudiado el futuro de la inteligencia, especialmente investigando qué, si algo, podría hacer formas alienígenas de inteligencia, incluidos AIS, conscientes y qué conciencia es en primer lugar. Por lo tanto, es natural que la gente me pregunte si los últimos modelos ChatGPT, Claude o Gemini Chatbot son conscientes.
Mi respuesta es que las afirmaciones de conciencia de estos chatbots no dicen nada, de una forma u otra. Aún así, debemos abordar el problema con gran cuidado, tomando en serio la cuestión de la conciencia de la IA, especialmente en el contexto de AIS con componentes biológicos. Avanzamos, será crucial separar la inteligencia de la conciencia y desarrollar una comprensión más rica de cómo detectar la conciencia en AIS.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado con suscripción. Al comprar una suscripción, está ayudando a garantizar el futuro de las historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo hoy.
Los chatbots de IA han sido entrenados en grandes cantidades de datos humanos Eso incluye la investigación científica sobre la conciencia, las publicaciones de Internet saturadas de nuestras esperanzas, sueños y ansiedades, e incluso las discusiones que muchos de nosotros estamos teniendo sobre IA consciente. Habiendo arrastrado tantos datos humanos, los chatbots codifican mapas conceptuales sofisticados que reflejan los nuestros propios. Los conceptos, desde simples como “perro” hasta abstractos como “conciencia”, se representan en chatbots de IA a través de estructuras matemáticas complejas de conexiones ponderadas. Estas conexiones pueden reflejar los sistemas de creencias humanas, incluidas las que involucran la conciencia y la emoción.
Los chatbots a veces pueden actuar conscientes, pero ¿lo son? Apreciar cuán urgente puede ser este problema, rápido para un momento en el que la IA se vuelve tan inteligente que rutinariamente hace que los descubrimientos científicos no hicieron los humanos, ofrece predicciones científicas precisas con razonamiento que incluso los equipos de expertos encuentran difíciles de seguir y desplazan potencialmente a los humanos en una variedad de profesiones. Si eso sucede, nuestra incertidumbre volverá a perseguirnos. Necesitamos reflexionar sobre este problema con cuidado ahora.
¿Por qué no simplemente decir: “Si parece un pato, nada como un pato y charlatanes como un pato, entonces es un pato”? El problema es que asumir prematuramente un chatbot es consciente podría conducir a todo tipo de problemas. Podría hacer que los usuarios de estos sistemas de IA riesgo de compromiso emocional en una relación fundamentalmente unilateral con algo incapaz de corresponder los sentimientos. Peor aún, podríamos otorgar por error los chatbots de posición moral y legal generalmente reservada para seres conscientes. Por ejemplo, en situaciones en las que tenemos que equilibrar el valor moral de una IA versus el de un humano, en algunos casos podríamos equilibrarlos por igual, porque hemos decidido que ambos son conscientes. En otros casos, incluso podríamos sacrificar a un humano para salvar dos AI.
Además, si permitimos que alguien que construyó la IA diga que su producto es consciente y termina dañando a alguien, simplemente podría levantar las manos y exclamar: “Decidió su propia mente. No soy responsable..“Aceptar afirmaciones de conciencia podría proteger a las personas y empresas de la responsabilidad legal y/o ética por el impacto de las tecnologías que desarrollan. Por todas estas razones, es imperativo que luchemos por más certeza sobre la conciencia de la IA.
Una buena manera de pensar en estos sistemas de IA es que se comportan como una “neocorteza de crowdsourced”, un sistema con inteligencia que surge de la capacitación en cantidades extraordinarias de datos humanos, lo que permite imitar eficazmente los patrones de pensamiento de los humanos. Es decir, a medida que los chatbots se vuelven cada vez más sofisticados, sus trabajos internos vienen a reflejar los de las poblaciones humanas cuyos datos asimilaron. Sin embargo, en lugar de imitar los conceptos de una sola persona, reflejan el grupo más grande de humanos cuya información sobre el pensamiento humano y la conciencia se incluyó en los datos de entrenamiento, así como en el cuerpo más amplio de investigación y trabajo filosófico sobre la conciencia. Los complejos chatbots de mapa conceptual codifican, a medida que se vuelven más sofisticados, es algo que los especialistas son solo ahora comenzando a entender.
De manera crucial, esta capacidad emergente para emular comportamientos similares a pensamiento humano no confirma ni desacredita la conciencia de chatbot. En cambio, la cuenta de neocorteza de crowdsourced explica por qué los chatbots afirman la conciencia y los estados emocionales relacionados sin experimentarlos genuinamente. En otras palabras, proporciona lo que los filósofos llaman una “teoría de errores”, una explicación de por qué concluyimos erróneamente que los chatbots tienen vidas internas.
El resultado es que si está utilizando un chatbot, recuerde que sus habilidades lingüísticas sofisticadas no significan que sean conscientes. Sospecho que AIS continuará creciendo más inteligente y capaz, tal vez eventualmente superando a los humanos en muchos aspectos. Pero su inteligencia avanzada, incluida su capacidad para emular la emoción humana, no significa que sientan, y esto es clave para la conciencia. Mientras estresaba en mi libro Artificial tu (2019), la inteligencia y la conciencia pueden separarse.
No digo que todas las formas de IA carecan de conciencia para siempre. He abogado por un enfoque de “esperar y ver”, sosteniendo que el asunto exige una investigación empírica y filosófica cuidadosa. Debido a que los chatbots pueden afirmar que son conscientes, que se comportan con la inteligencia lingüística, tienen un “marcador” para la conciencia, un rasgo que requiere una mayor investigación que no sea, sola, suficiente para juzgarlos para que sean conscientes.
He escrito anteriormente sobre el paso más importante: desarrollar pruebas confiables para la conciencia de IA. Idealmente, podríamos construir las pruebas con una comprensión de la conciencia humana en la mano y simplemente ver si AI tiene estas características clave. Pero las cosas no son tan fáciles. Por un lado, los científicos no están de acuerdo sobre por qué somos conscientes. Algunos lo ubican en actividad de alto nivel como la coordinación dinámica entre ciertas regiones del cerebro; otros, como yo, lo ubican en la capa más pequeña de la realidad.en la tela cuántica del espacio -tiempo mismo. Para otro, incluso si tenemos una imagen completa de la base científica de la conciencia en el sistema nervioso, esta comprensión puede llevarnos a aplicar esa fórmula a la IA. Pero la IA, con su falta de cerebro y sistema nervioso, podría mostrar otra forma de conciencia que extrañaríamos. Así que asumiríamos erróneamente que la única forma de conciencia es una que refleja la nuestra.
Necesitamos pruebas que supongan que estas preguntas están abiertas. De lo contrario, nos arriesgamos a sumergirnos en debates molestos sobre la naturaleza de la conciencia sin abordar nunca formas concretas de probar AIS. Por ejemplo, debemos analizar las pruebas que involucran medidas de información integrada, una medida de cómo Componentes de un sistema Combinar información, así como mi prueba de conciencia de IA (Prueba de ACT). Desarrollado con Edwin Turner De Princeton, ACT ofrece una batería de preguntas de lenguaje natural que se pueden dar a los chatbots para determinar si tienen experiencia cuando están en la etapa de I + D, antes de que estén entrenados en información sobre la conciencia.
Ahora volvamos a ese tiempo hipotético en el que un chatbot de IA, entrenado en todos nuestros datos, supera a los humanos. Cuando enfrentamos ese punto, debemos tener en cuenta que los comportamientos del sistema no nos dicen de una forma u otra si es consciente porque está operando bajo una “teoría de errores”. Por lo tanto, debemos separar la inteligencia de la conciencia, dándonos cuenta de que las dos cosas pueden desmoronarse. De hecho, un chatbot de IA podría incluso exhibir descubrimientos novedosos sobre la base de la conciencia en los humanos, como creo que lo harán, pero lo haría no significa que esa IA en particular sintió algo. Pero si lo avisamos bien, podría señalarnos en la dirección de otros tipos de IA que son.
Dado que los humanos y los animales no humanos exhiben conciencia, tenemos que tomar muy en serio la posibilidad de que las futuras máquinas construidas con componentes biológicos también puedan poseer la conciencia. Además, los AIS “neuromórficos”, los sistemas más directamente modelados después del cerebro, incluso con análogos relativamente precisos a las regiones cerebrales responsables de la conciencia, deben tomarse particularmente en serio como candidatos para la conciencia, ya sea que estén hechos con componentes biológicos o no.
Esto subraya la importación de la evaluación de las preguntas de la conciencia de la IA caso por caso y no la generalización de los resultados que involucran un solo tipo de IA, como uno de los chatbots actuales. Debemos desarrollar una variedad de pruebas para aplicar a los diferentes casos que surgirán, y aún debemos esforzarnos por una mejor comprensión científica y filosófica de la conciencia misma.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor o los autores no son necesariamente las de Scientific American.