A medida que la tecnología médica avanzada se acerca a los mercados de consumo, debería aumentar la necesidad de barreras de seguridad para el uso protegido. Lo que podría comenzar como un implante neuronal para ayudar en la comunicación podría convertirse en un dispositivo utilizado para controlar los pensamientos más íntimos.
Intrigada por los amplios beneficios y riesgos de los implantes neuronales, Rachel Sava, candidata a doctorado en el Programa Harvard-MIT en Ciencias de la Salud y Tecnología, explora cómo un dispositivo médico que cambia vidas puede convertirse en una herramienta de vigilancia por parte de corporaciones y entidades gubernamentales en su presentación ganadora, “Superintelligence, Superintimate”, para la cuarta edición anual del Premio Envisioning the Future of Computing.
El concepto de Sava se inspiró en una pasantía en IBM, donde trabajó en un proyecto con el Centro PACE de Londres. “Un mentor en el proyecto fue Kevin Brown, quien diseñó uno de los primeros decodificadores cerebrales: un sistema basado en EEG que construyó para un colega que había sufrido un derrame cerebral que lo dejó con el síndrome de enclaustramiento”, dice. “Fue esta población de pacientes para quienes el cuerpo se ha convertido en un vehículo poco confiable para la mente lo que motivó mi escritura sobre neuroprótesis unos seis años después”.
Sava explica que la investigación y las aplicaciones se encuentran en este momento en un “momento decisivo en la neurotecnología”. Utilizando ejemplos como empresas que aprovechan los implantes neuronales para monitorear la productividad mental, o autoridades que vigilan a una población por “delitos de pensamiento”, Sava dijo que a medida que esta tecnología llega a los mercados de consumo, existe un temor genuino de que lo que comienza como un dispositivo médico revolucionario pueda pasar a usos más distópicos.
Reproducir vídeo
Premio Visualizando el futuro de la informática 2026: Rachel Sava
Vídeo: Facultad de Computación Schwarzman del MIT
Presentado por Social and Ethical Responsibilities of Computing (SERC), una iniciativa entre campus de MIT Schwarzman College of Computing, en colaboración con la Facultad de Humanidades, Artes y Ciencias Sociales y con el apoyo de MAC3 Philanthropies, el concurso invitó a los estudiantes del MIT a identificar, en 3000 palabras o menos, qué sector puede obtener el mayor impacto positivo neto de la inteligencia artificial. Se animó a los estudiantes a explorar implementaciones tecnológicas realistas mientras consideraban riesgos potenciales y preocupaciones éticas. Todas las presentaciones fueron elegibles para premios en efectivo con el gran premio fijado en $10,000.
Durante una ceremonia de premiación en vivo organizada por Caspar Hare, exdecano asociado de SERC y profesor de filosofía, quien fundó el premio en 2023, tres finalistas hicieron cada uno una presentación de 20 minutos sobre sus conceptos y respondieron preguntas de un panel de jueces y miembros de la audiencia.
“SERC y los donantes que hacen posible este premio año tras año nos preguntan a nosotros, la próxima generación de científicos: ‘¿qué mundo queréis ver?’ Creo que vale la pena tomarse el tiempo para preguntarse lo mismo”, dijo Sava. “Y si, como sucedió conmigo, el sentimiento se vuelve lo suficientemente brillante como para motivar nuevas acciones, entonces vale la pena darse permiso para explorarlo tan profundamente como lo hace con su otro trabajo académico”.
Cada año, el Premio Imaginando el Futuro de la Computación pide a los estudiantes que miren más allá del avance tecnológico y consideren los beneficios y costos sociales de su trabajo desde el principio. Desde sus inicios, la competencia ha atraído constantemente a estudiantes de pregrado y posgrado de una amplia gama de disciplinas.
“Las presentaciones de este año fueron sorprendentes e incluyeron ensayos sobre interfaces cerebro-computadora, IA y religión, IA para descubrimientos científicos, búsqueda de eficiencias en la red eléctrica y mucho más”, dice Brian Hedden, codecano asociado de SERC y profesor de filosofía, que ocupa un puesto compartido en el MIT Schwarzman College of Computing con el Departamento de Ingeniería Eléctrica y Ciencias de la Computación. “Mostraron la amplitud y profundidad del pensamiento que se lleva a cabo en el MIT sobre los impactos sociales y éticos de las tecnologías”.
Nikos Trichakis, codecano asociado de SERC y profesor de Gestión JC Penney, añade “lo más sorprendente de estos ensayos es la amplitud de imaginación que muestran: los estudiantes se mueven con fluidez a través de la medicina, la neurotecnología, el derecho, la ética y las instituciones públicas, manteniendo al mismo tiempo la agencia humana en el centro. Su trabajo es creativo, riguroso y profundamente reflexivo, y muestra una notable capacidad para imaginar no sólo lo que la IA puede hacer, sino también lo que debería hacer”.
Además de otorgar a Sava el gran premio de 10.000 dólares, los jueces reconocieron a dos finalistas con 5.000 dólares cada uno: Cordiana Cozier, candidata a doctorado en el Departamento de Química, por su artículo sobre el uso de la IA como amortiguador cognitivo para los defensores públicos; y Strahinja Janjusevic, estudiante de posgrado del Programa de Tecnología y Políticas del Instituto de Datos, Sistemas y Sociedad, por su presentación sobre agencia y propiedad en el campo de las prótesis controladas neuronalmente. Los jueces también nombraron cuatro menciones honoríficas, cada una de las cuales recibió un premio en efectivo de 500 dólares.