Avance responsable de la IA y la robótica
A medida que exploramos el potencial continuo de la IA y la robótica, estamos adoptando un enfoque holístico y en capas para abordar la seguridad en nuestra investigación, desde el control motor de bajo nivel hasta la comprensión semántica de alto nivel.
La seguridad física de los robots y las personas que los rodean es una preocupación fundamental y de larga data en la ciencia de la robótica. Por eso los expertos en robótica cuentan con medidas de seguridad clásicas, como evitar colisiones, limitar la magnitud de las fuerzas de contacto y garantizar la estabilidad dinámica de los robots móviles. Gemini Robotics-ER puede interconectarse con estos controladores críticos para la seguridad de “bajo nivel”, específicos para cada realización particular. Basándonos en las características de seguridad principales de Gemini, permitimos que los modelos Gemini Robotics-ER comprendan si es seguro realizar una acción potencial en un contexto determinado y generen respuestas adecuadas.
Para avanzar en la investigación de la seguridad de la robótica en el mundo académico y la industria, también estamos lanzando un nuevo conjunto de datos para evaluar y mejorar la seguridad semántica en la IA y la robótica incorporadas. En trabajos anteriores, mostramos cómo una Constitución de Robot inspirada en las Tres Leyes de la Robótica de Isaac Asimov podría ayudar a que un LLM seleccione tareas más seguras para los robots. Desde entonces, hemos desarrollado un marco para generar automáticamente constituciones basadas en datos (reglas expresadas directamente en lenguaje natural) para dirigir el comportamiento de un robot. Este marco permitiría a las personas crear, modificar y aplicar constituciones para desarrollar robots que sean más seguros y estén más alineados con los valores humanos. Finalmente, el nuevo conjunto de datos ASIMOV ayudará a los investigadores a medir rigurosamente las implicaciones de seguridad de las acciones robóticas en escenarios del mundo real.
Para evaluar más a fondo las implicaciones sociales de nuestro trabajo, colaboramos con expertos de nuestro equipo de Innovación y Desarrollo Responsable y también con nuestro Consejo de Responsabilidad y Seguridad, un grupo de revisión interno comprometido a garantizar que desarrollemos aplicaciones de IA de manera responsable. También consultamos con especialistas externos sobre desafíos y oportunidades particulares que presenta la IA incorporada en aplicaciones de robótica.
Además de nuestra asociación con Apptronik, nuestro modelo Gemini Robotics-ER también está disponible para evaluadores confiables, incluidos Agile Robots, Agility Robots, Boston Dynamics y Enchanted Tools. Esperamos explorar las capacidades de nuestros modelos y continuar desarrollando IA para la próxima generación de robots más útiles.