Google creó una “constitución robótica” para androides impulsados por inteligencia artificial. La propuesta está basada en las Tres Leyes de la Robótica de Isaac Asimov, autor del libro Yo, Robot.
FUENTE:es.wired.com
Google DeepMind anunció el lanzamiento de AutoRT, un sistema que aprovecha los beneficios de los grandes modelos de lenguaje (LLM, por sus siglas en inglés) basados en inteligencia artificial (IA) para comprender objetivos humanos prácticos.
El algoritmo combina las funciones de un LLM, un modelo de lenguaje visual (VLM, por sus siglas en inglés) y uno más de control para crear un mecanismos de recopilación de datos en tiempo real, en contextos ambientales diversos. El sistema puede implementarse en robots equipados con cámara y periféricos finales de acción (brazos robóticos) para darles la capacidad de adaptarse al entorno.
“AutoRT puede dirigir simultáneamente varios robots de forma simultánea. Para cada uno, el sistema utiliza un VLM para comprender su entorno y los objetos a la vista. A continuación, un LLM sugiere una lista de tareas creativas que el robot podría realizar, y desempeña un papel en la toma de decisiones para seleccionar una tarea adecuada que deberá realizar el aparato robótico”, explica el equipo de Google Deepmind.
Durante siete meses de pruebas, el sistema fue capaz de controlar “de forma segura” 20 robots de manera simultánea y 52 robots únicos con la capacidad de comprender 77,000 órdenes dictadas por el modelo de IA, y cumplir 6,650 tareas únicas.
La eficiencia del algoritmo es llamativa, pero aviva las preocupaciones sobre los riesgos que supone la autonomía de los robots impulsados con IA. Pero Google ha implementado una salvaguarda para contrarrestar dicho problema.
La “constitución robótica” para controlar la autonomía de la IA
El LLM que da soporte a AutoRT está entrenado con una “constitución robótica”. Se trata de un conjunto de indicaciones que privilegian la seguridad en las decisiones que toma el modelo de IA para seleccionar las tareas que cada robot debe cumplir. Según Google, estas reglas están inspiradas en las “Tres Leyes de la Robótica” de Isaac Asimov, autor del libro Yo, Robot.
La primera ley que Asimov documentó en su libro dice que un robot no debe dañar a un ser humano o dejar que sufra un daño. La segunda dice que los desarrollos robóticos deben obedecer las órdenes de los humanos, excepto cuando las indicaciones violen la primera norma. La tercera estipula que los robots deben de proteger su propia existencia con medidas que no entren en conflicto con las dos reglas anteriores.
Google DeepMind presentó dos soluciones adicionales. SARA-RT es una arquitectura de red neuronal para transformadores robóticos. Promete mejorar la capacidad de los robots en precisión y velocidad de respuesta en la toma de decisiones. RT-Trajectory se encarga de modelar en automático espacios visuales en dos dimensiones para que los androides optimicen el proceso de cumplimiento de sus tareas.
Con sistemas avanzados como los propuestos por Google, la discusión alrededor de las amenazas vinculadas con la IA ocupa la atención de científicos, organismos reguladores, investigadores y jugadores de la industria. Diversas voces exigen un marco regulatorio internacional que modere el uso, aplicación, desarrollo y comercialización de esta tecnología.
La Unión Europea avanza en un proyecto de ley; la propuesta es considerada como la más sólida hasta ahora. OpenAI, Google, Microsoft y Anthropic se han unido para lanzar el ‘Foro Frontier Model’, un panel enfocado en garantizar el desarrollo seguro y responsable de modelos de inteligencia artificial. En octubre, la Organización de las Naciones Unidas anunció la creación de un Consejo Consultivo que se enfocará en “analizar y promover recomendaciones para la gobernanza internacional de la inteligencia artificial”.
