Muchas personas temen que, si alguna vez existe la inteligencia de la máquina totalmente sensible, se apoderará del mundo. Sin embargo, la verdadera amenaza es el riesgo de que las compañías tecnológicas esclavizan a los robots para generar ganancias, la autora Martha Wells sugiere en su conjunto de futuro lejano. Serie de libros The Murderbot Diaries. En Wells’s World, las inteligencias de la máquina habitan naves espaciales y bots, y Medio humano, construcciones de media máquina Ofrecen protección a los humanos del peligro (en forma de “unidades de seguridad”), así como placer sexual (“unidades de confort”). El personaje principal, una unidad de seguridad que se nombra secretamente a Murderbot, logra ganar el libre albedrío pirateando el módulo que su empresa propietaria usa para esclavizarlo. Pero a la mayoría de los seres les gusta no es tan afortunado.
En el mundo de Murderbot, las corporaciones controlan casi todo, compitiendo entre ellas para explotar los planetas y la mano de obra contratada. Los derechos de los humanos y los robots a menudo son pisoteados por avaricia capitalista—Conante de muchos de los pozos de los pecados del mundo real se atribuye a las empresas tecnológicas actuales. Pero justo afuera del territorio de la compañía (llamado “Corporation Rim”) es un planeta independiente llamado Preservation, una sociedad relativamente libre y pacífica que Murderbot se encuentra, contra todas las probabilidades, con ganas de proteger.
Ahora, con la adaptación televisiva Asesinato Se transmite en Apple TV+, Wells está llegando a una audiencia completamente nueva. El programa ha ganado la aclamación crítica (y, al momento de escribir, una calificación de audiencia del 96 por ciento en Tomates podridos), y se clasifica constantemente entre la serie más vistelada del streamer. Fue recientemente Renovado para una segunda temporada. “Todavía estoy un poco abrumado por todo lo que sucede con el programa”, dice Wells. “Es difícil de creer”.
Sobre el apoyo al periodismo científico
Si está disfrutando de este artículo, considere apoyar nuestro periodismo galardonado con suscripción. Al comprar una suscripción, está ayudando a garantizar el futuro de las historias impactantes sobre los descubrimientos e ideas que dan forma a nuestro mundo hoy.
Científico americano Habló con Wells sobre la diferencia entre la IA actual y la verdadera inteligencia de la máquina, la personalidad artificial y los robots neurodivergentes.
[An edited transcript of the interview follows.]
El Rim Corporation se siente tan increíblemente presciente, tal vez incluso más que cuando publicó el primer libro de la serie en 2017.
Sí, inquietantemente. Esta tendencia corporativa ha estado filtrando en los últimos 10 o 15 años, esta fue la dirección en la que hemos estado subiendo como sociedad. Una vez que tenemos la idea de que las corporaciones tengan personalidad, que una corporación es de alguna manera más una persona que un individuo humano real, entonces realmente comienza a mostrarle lo mal que puede ser. Siento que eso ha sido posible en cualquier momento; No es solo una cosa de futuro lejano. Pero representarlo en el futuro lejano lo hace menos horrible, supongo. Te permite pensar en estas cosas sin sentir que estás viendo las noticias.
Actualmente, la idea de ir a Marte está siendo impulsada por empresas privadas como una respuesta a todos los problemas. Pero [the implication is that those who go will be] Algunos multimillonarios y su camarilla y sus sirvientes contratados, y eso de alguna manera será el paraíso para ellos y solo lo contrario para todos los demás. Con las corporaciones asumiendo el control, es cuando las ganancias son el resultado final: fines de lucro y engrandecimiento personal de quien lo ejecute. No puede tener el tipo de progreso científico serio y cuidadoso que hemos tenido con la NASA.
Este mundo que has creado es muy interesante porque es una distopía de alguna manera. El borde de la corporación ciertamente lo es. Y, sin embargo, la preservación es una especie de utopía. ¿Piensas en ellos en esos términos?
En realidad, no, porque por ese estándar, vivimos en una distopía ahora, y creo que el término distopía casi está haciendo la luz de la realidad. Es como si llamas a algo una distopía, no tienes que preocuparte por arreglarlo o hacer nada para tratar de aliviar los problemas. Se siente desesperado. Y si tiene algo que llama una utopía, entonces es perfecto, y no tiene que pensar en los problemas que podría tener o cómo podría mejorar para las personas.
Así que realmente no pienso en esos términos porque se sienten muy limitados. Y claramente en el borde de la corporación, todavía hay personas que logran vivir allí, sobre todo bien, al igual que nosotros aquí, ahora. Y en conservación, todavía hay personas que tienen prejuicios, y todavía tienen algunas cosas en las que trabajar. Pero en realidad están trabajando en ellos, lo que lo distingue del Rim Corporation.
Uno de los temas centrales de las historias de Murderbot es esta idea de personalidad. Sus libros dejan muy claro que Murderbot, como una construcción parcial y parcial, es definitivamente una persona. Con nuestra tecnología hoy, ¿crees que la inteligencia artificial, los modelos de idiomas grandes o el chatgpt deberían considerarse personas?
Bueno, Murderbot es una inteligencia de máquinas, y ChatGPT no lo es. Se llama inteligencia artificial como una herramienta de marketing, pero en realidad no es inteligencia artificial. Un modelo de lenguaje grande no es una inteligencia mecánica. Realmente no tenemos eso en este momento.
Tenemos algoritmos que pueden ser muy potentes y pueden analizar grandes cantidades de datos. Pero no tienen una inteligencia individual sensible en este momento. Sigo pensando que probablemente estamos a años y años y años de que cualquiera que cree una inteligencia artificial real.
Entonces Murderbot es ficción, porque la inteligencia de máquinas en este momento es ficción.
Un modelo de lenguaje grande que coincide con las palabras, a veces suena vagamente como que podría estar hablando contigo y a veces suena como si solo estuviera poniendo patrones de manera que se vean realmente extrañas, eso no está cerca de la inteligencia de la máquina sensible.
Me encuentro realmente en conflicto porque a menudo me molesta la intrusión de estos modelos y productos de idiomas que se llaman inteligencia artificial en la vida moderna hoy. Y sin embargo, siento tanto afecto y amor por las inteligencias artificiales ficticias.
¡Sí! Me pregunto si esa es una cosa que permitió que toda la estafa de IA se ponga un punto de apoyo. Porque a muchas personas no les gusta tenerlo en sus cosas, sabiendo que básicamente está tomando todos sus datos, cualquier cosa en la que esté trabajando, cualquier cosa que esté escribiendo y poniéndolo en esta rotación de un algoritmo de combinación de patrones. Probablemente las inteligencias artificiales y de máquina ficticias a lo largo de los años han convencido a las personas de que esto es posible y que está sucediendo ahora. La gente piensa que hablar con estos modelos de idiomas grandes está de alguna manera ayudarlos a ganar sensibilidad o aprender más, cuando realmente no lo es. Es una pérdida de tiempo.
Los humanos son realmente propensos a antropomorfizar objetos, especialmente cosas como nuestra computadora portátil y teléfono y todas estas cosas que responden a lo que hacemos. Creo que solo nos hornea, y las corporaciones se aprovechan de él para tratar de ganar dinero, quitarle trabajo a las personas y por sus propios motivos.
Mi personaje favorito en la historia es Art, que es una nave espacial, es decir, una inteligencia artificial que controla una nave espacial. ¿Cómo pensaste en diferenciar a este personaje de la media máquina y mitad humana asesinato?
Las conciencias basadas en barcos han existido en la ficción durante mucho tiempo, por lo que no puedo dar crédito por eso. Pero debido a que Murderbot se basa en el tejido neuronal humano, por eso está sujeto a la ansiedad y la depresión y otras cosas que tienen los humanos. Y el arte no lo es. El arte fue creado muy intencionalmente para trabajar con humanos y ser parte de un equipo, por lo que nunca tuvo que lidiar con muchas de las cosas negativas que tiene Murderbot. Alguien en Internet describió el arte como, básicamente, si Skynet era un académico con una familia. Esa es una de las mejores descripciones que creo que he visto.
Una de las razones por las que yo y muchas personas amamos esta serie es qué tan bien explora la neurodiversidad. Tienes esta diversidad de tipos de inteligencias, y son paralelos a muchos de los diferentes tipos de neurodiversidad que vemos entre los humanos en el mundo real. ¿Estabas pensando en ello de esta manera cuando diseñaste este universo?
Bueno, me enseñó sobre mi propia neurodiversidad. Sabía que tenía problemas con la ansiedad y cosas así, pero no sabía que probablemente tenía autismo. No sabía muchas otras cosas hasta escribir esta historia en particular y luego hacer que la gente me hable al respecto. En cuanto a: “¿Cómo lograste retratar la neurodiversidad como esta?” Y estoy pensando: “Así es como funciona mi cerebro. Esta es la forma en que creo que la gente piensa”. Hasta Murderbot, no creo que me haya dado cuenta de la medida en que afecta mi escritura. Muchas personas me han dicho que les ayudó a resolver cosas sobre sí mismos y que fue agradable ver a un personaje que pensó y sintió muchas de las mismas cosas que hicieron.
¿Crees que la ciencia ficción es un género especialmente útil para explorar algunos de estos aspectos de la humanidad?
Puede ser. No sé si siempre ha sido. Un género cambia a medida que cambian las personas que trabajan en TI. Así que creo que ha sido mejor últimamente porque finalmente obtuvimos más mujeres y personas de color y personas neurodivergentes y las voces de las personas discapacitadas que se escuchan ahora. Y está hecho para un trabajo realmente emocionante que sale. Últimamente, mucha gente lo llama otra edad de oro de la ciencia ficción.
Cuando escribí [the first book in the series], Todos los sistemas rojos, Me puse mucho de mí mismo. Y creo que una de las razones por las cuales las personas se identifican con muchos aspectos diferentes es porque puse mucha emoción genuina y fui muy específica sobre la forma en que Murderbot se sentía sobre ciertas cosas y lo que estaba sucediendo con eso. Creo que ha habido una falacia en la ficción, particularmente la ficción de género, que si haces que un personaje sea muy genérico, eso permite que más personas se identifiquen con él. Pero eso en realidad no es cierto. Cuanto más específico sea alguien sobre sus sentimientos y sus problemas y lo que está sucediendo con ellos, más personas pueden identificarse con eso debido a esa especificidad.