Noticias de Tecnología y tendencias de actualidad
OpenAI decidió desactivar el acceso a su API a un ingeniero que había desarrollado un arma centinela motorizada controlada por comandos de ChatGPT. El hombre se había hecho viral en las redes sociales, demostrando como la integración de la inteligencia artificial en sistemas militares y dispositivos autónomos es un hecho y podría ser un riesgo en las manos equivocadas.
El caso del arma centinela con ChatGPT
En noviembre, un ingeniero identificado como sts_3d compartió videos de un arma centinela motorizada capaz de girar rápidamente y disparar proyectiles con precisión. Aunque inicialmente mostraba simulaciones con láseres y disparos de fogueo, el proyecto dio un giro polémico cuando integró comandos de voz impulsados por la API de ChatGPT.
En los videos, el arma centinela respondía con frases alegres tras ejecutar disparos bajo instrucciones habladas. Por ejemplo, tras disparar, ChatGPT decía: «Si necesitas cualquier otra ayuda, házmelo saber», a lo que el ingeniero respondía: «Buen trabajo, nos salvaste».
OpenAI tomó medidas rápidas al identificar esta violación de sus políticas, que prohíben explícitamente el uso de sus servicios para desarrollar armas o sistemas que puedan comprometer la seguridad personal. Sin embargo, el incidente generó una ola de atención viral, avivando debates sobre los límites éticos y técnicos de los sistemas de armas controlados por IA.
Creación de armas autónomas
@sts_3d Update on the tracking system #robotics #vision #electronics
♬ original sound – sts_3d
Aunque el uso de ChatGPT en este caso funcionaba más como un control remoto avanzado que como una verdadera inteligencia militar, el incidente refleja un problema mayor: la proliferación de armas autónomas habilitadas por IA.
- Desempeño Técnico:
La integración de ChatGPT, aunque innovadora, no era eficiente. Los comandos hablados tardaban varios segundos en ejecutarse, lo que hacía al sistema más lento que métodos tradicionales de control, como el seguimiento automático de objetivos o el uso de interfaces gráficas. Otros videos de sts_3d mostraron un nivel técnico más avanzado, con el arma rastreando objetos en tiempo real y cambiando objetivos con rapidez. - Amenaza Potencial:
Las armas autónomas controladas por IA pueden operar sin intervención humana directa, identificando y atacando objetivos basados en algoritmos. Esto genera preocupaciones sobre errores, mal uso o falta de supervisión ética en situaciones de combate. Aunque los militares insisten en mantener a un humano «al tanto» de las decisiones de disparo, la dependencia creciente en IA plantea riesgos inevitables. - Normativas y Políticas:
OpenAI prohíbe usos relacionados con armas, pero la proliferación de modelos de IA de código abierto facilita que ingenieros independientes desarrollen tecnologías similares sin restricciones. Además, asociaciones recientes de OpenAI con contratistas militares, como Anduril, plantean preguntas sobre el equilibrio entre desarrollo tecnológico y responsabilidad ética.
Armas Controladas por IA
La evolución de las armas autónomas no se detendrá con las restricciones actuales. A medida que los modelos de IA se vuelvan más avanzados y accesibles, es probable que los proyectos aficionados y los desarrollos militares exploren aplicaciones más complejas.
Los sistemas de armas autónomas presentan una paradoja: por un lado, prometen mayor precisión y eficiencia en el combate; por otro, su uso plantea dilemas éticos sobre la delegación de decisiones letales a máquinas. La necesidad de normativas internacionales para limitar su desarrollo y uso se vuelve cada vez más urgente.
El caso del arma centinela controlada por ChatGPT subraya los riesgos inherentes a la democratización de tecnologías avanzadas de IA. Aunque este proyecto no alcanzaba el nivel de una máquina de combate autónoma, refleja un camino preocupante hacia el desarrollo de sistemas armamentísticos cada vez más sofisticados.
El desafío ahora es equilibrar el avance tecnológico con regulaciones éticas y políticas que garanticen que la inteligencia artificial se utilice de manera responsable, evitando que se convierta, como en este caso, en un arma centinela peligrosa fuera de control humano.
@sts_3d Aim/fire simulation with laser #robotics #electronics
♬ original sound – sts_3d
Referencia:
- TikTok/sts_3d. Link.
Fuente: CerebroDigital.net
