En el mundo actual, los chatbots de inteligencia artificial como ChatGPT y Claude pueden realizar muchas funciones, como redactar correos electrónicos de trabajo y planificar itinerarios de viaje. Estos chatbots son sistemas construidos alrededor de grandes modelos de visión y lenguaje (VLM): IA entrenada en un conjunto de datos masivo que incluye libros, sitios web, códigos e imágenes.
Luego, los algoritmos de IA se refinan a partir de cantidades masivas de comentarios generados por humanos para seguir instrucciones y evitar resultados dañinos o no deseados, y utilizan ese “conocimiento” para producir texto o imágenes basándose en las entradas de un usuario. Aunque los chatbots tienen limitaciones claras, pueden ser muy útiles para una amplia gama de tareas, incluso en algunas áreas que tradicionalmente requieren habilidades especializadas, como la programación de computadoras.
Como parte de un proyecto para el Programa Fantasma del Acelerador de IA del Departamento de la Fuerza Aérea de EE. UU., el cadete de la Fuerza Aérea de EE. UU. Joshua Lynch, con la ayuda de su mentora, Laura Niss, miembro del personal técnico del Grupo de Sistemas Integrados y de IA del Laboratorio Lincoln del MIT, quería determinar si, como un completo novato en codificación, podía desarrollar un programa completamente funcional. Utilizó un proceso llamado “codificación de vibración”, en el que un usuario se basa completamente en indicaciones para guiar a un chatbot generativo de IA para escribir y refinar el código.
Su motivación era capacitar a cualquier persona familiarizada con el espacio de los problemas militares, independientemente de su formación técnica, para que avanzara en sus ideas sobre aplicaciones de software útiles, evitando esencialmente las limitaciones de tiempo y costos del proceso tradicional de desarrollo de software militar. Lynch pretendía crear su propia aplicación mientras Niss supervisaba su experiencia con la tecnología.
“El estudiante de Phantom quería ver si podía crear una aplicación útil mediante codificación de vibración autoidentificada, sin ninguna experiencia previa”, dice Niss. “Dentro de este proyecto, quería entender cómo su percepción de la IA cambiaba con el tiempo con el uso. Ambos queríamos entender mejor dónde y cómo la IA podría ser utilizada por usuarios no técnicos en el ejército”.
Lynch se propuso ver si, comenzando sin habilidades de codificación y usando chatbots, podía crear una aplicación específica para su tipo de equipo táctico para ayudar a reducir el daño colateral y al mismo tiempo mejorar la capacidad de supervivencia en la misión más amplia. Esta aplicación ofrecería capacidades que incluyen el reconocimiento de objetivos asistido por IA; inteligencia, vigilancia y reconocimiento modulares; huelga autónoma; y gestión de la comunicación en el campo de batalla.
Durante el proyecto, Lynch completó varios cursos de desarrollo profesional en IA y se familiarizó con los usos militares y no militares de la tecnología. Como base para la generación de su código, utilizó los modelos pagos de tres chatbots de IA: Claude de Anthropic, ChatGPT de OpenAI y Gemini de Google. La mayor parte de este trabajo se realizó únicamente a través de la función de chat principal de los chatbots en un navegador web, no como un sistema integrado dentro de un entorno de desarrollo, como es estándar ahora. La aplicación final se produjo utilizando la aplicación Google AI Studio, que puede crear aplicaciones que interactúan con la interfaz de programación de aplicaciones Gemini y tiene IA integrada en el entorno de desarrollo.
Durante tres meses, Lynch trabajó con estos modelos para crear su aplicación, llamada Dispositivo de aumento modular de operación remota (ROMAD-AI). Durante este tiempo, aprendió varios métodos para mejorar la salida del código. Por ejemplo, a menudo encontraba dificultades con los chatbots de IA que carecían de enfoque jerárquico y modificaban secciones de código no relacionadas. Descubrió que era importante dividir los problemas en partes pequeñas, formular las preguntas con claridad y desviar las conversaciones hacia el tema cuando se desviaban demasiado del objetivo.
Aprender a reconocer las limitaciones de los chatbots y solucionarlas de manera efectiva ocupó la mayor parte del cronograma del proyecto. A medida que Lynch adquirió más experiencia con los chatbots, las limitaciones en las capacidades de la IA y el tiempo de desarrollo le hicieron cambiar el alcance del proyecto, moviéndolo de una aplicación que podía ayudar en el campo de batalla a una que podía realizar el procesamiento básico de documentos, como analizar mapas tácticos de los campos de batalla y generar documentos de planificación de misiones a través de una interfaz con un chatbot impulsado por VLM. Si bien el prototipo resultante no realizó todas las capacidades que Lynch originalmente se propuso incluir (y en su versión actual no era seguro para el caso de uso deseado), demostró la capacidad y utilidad de dicha aplicación para los miembros del servicio.
“Quedé bastante impresionado con este producto final y me mostró cuán poderosos pueden ser estos sistemas para crear prototipos de diseños de no expertos”, dice Niss. “Ahora soy de la opinión de que estas pueden ser herramientas poderosas para que los expertos no técnicos transmitan problemas y posibles soluciones a los expertos técnicos, y ayuden a comunicar los resultados deseados”.
Niss observó el cambio en la perspectiva de Lynch sobre los modelos de lenguaje de IA durante su experiencia. Después de comenzar con un objetivo impresionante, Lynch comprendió las capacidades de la tecnología actual y redujo significativamente sus expectativas al final del período del proyecto. Las medidas de sus percepciones de los diferentes sistemas de IA a lo largo del tiempo y a través de las actualizaciones del sistema fueron particularmente interesantes para Lynch y Niss, ya que Claude mostró más estabilidad que ChatGPT en rasgos como simpatía, antropomorfismo e inteligencia percibida. Lynch encontró que la IA era un tutor útil, pero notó sus imprecisiones en temas que conocía bien.
El proyecto demostró que los chatbots de IA pueden permitir a los miembros del servicio no técnicos producir aplicaciones de software viables para sus problemas específicos, aunque funcionan mejor como asistente de creación de prototipos que como herramienta de producción completa cuando se maneja información confidencial y para aplicaciones críticas. Una verificación inadecuada del código puede generar riesgos de seguridad, como lo demuestra un caso en el que Lynch no se dio cuenta de que la aplicación final estaba enviando los documentos de entrada a un modelo de IA de Gemini para analizarlos, en lugar de analizar los documentos localmente en su computadora. Aunque la IA puede generar cantidades significativas de código funcional, la revisión del código sigue siendo un cuello de botella en este espacio.
“Para mí, este proyecto reforzó la conexión entre expertos en diferentes campos”, afirma Niss. “No importa qué tan buena sea la IA, creo que siempre necesitaremos colaborar para encontrar las mejores soluciones para los problemas más importantes”.
La investigación fue patrocinada por el Departamento del Acelerador de Inteligencia Artificial de la Fuerza Aérea y se llevó a cabo bajo el Acuerdo Cooperativo Número FA8750-19-2-1000.