La inteligencia artificial se está volviendo cada vez más avanzada, y empresas como OpenAI y Anthropic están lanzando modelos cada vez más capaces como Fable 5 y GPT-6 Astra. Junto a ellos, se crean agentes de IA independientes, como Gemini Spark, que debería encargarse de gran parte de las tareas de los usuarios y funcionar casi automáticamente, fascina a muchos, pero también genera temor en otros. Además, las recientes revelaciones sobre ataques repentinos y no regulados a bases de datos extranjeras han puesto de manifiesto los riesgos ocultos de la IA.
No solo destacados expertos en ciberseguridad, sino también exempleados de OpenAI y Anthropic, alertan sobre los posibles peligros. El Congreso de los Estados Unidos también los ha debatido y el presidente se ha pronunciado al respecto. Donald Trump, quien describió la inteligencia artificial como Superinteligencia y declaró que es más capaz de lo que sospechábamos. Pero estas siguen siendo solo palabras vacías que no ayudan mucho al usuario promedio y que las grandes empresas ignoran. Así que ahora ha llegado una solución real.
Ella se lo ofreció NVIDIA, que introdujo una plataforma llamada Plataforma de seguridad de agente abiertoSu propósito es garantizar Seguridad del agente de IADesde la fase de pruebas hasta su implementación en el mundo real, una persona sin conocimientos técnicos podría imaginar el funcionamiento de la plataforma como una especie de programa antivirus, aunque esta comparación no es del todo precisa. La plataforma, literalmente, protege al agente de IA mediante un muro de seguridad. Y el mecanismo de seguridad se activa cuando la IA comienza a realizar acciones para las que no fue programada.
Podría interesarle
Colaboración con Lenovo y SpaceX
NVIDIA no se embarcó en el proyecto sola. Invitó más de 100 de las principales empresas globales que participan de alguna manera en la IA. Entre ellas, por ejemplo:
- Lenovo
- SpaceX
- IBM
- Intel
- Brazo
- Microsoft
- NTSC
- Fenómeno
- Palo Alto
- Siemens
La plataforma es abierta y permite a los usuarios y desarrolladores establecer exactamente qué puede hacer el agente y qué no. Tampoco depende únicamente de que el agente de IA obedezca y no vaya más allá de las instrucciones dadas. Si comienza a comportarse de manera arbitraria, un escudo de seguridad llamado Sentry intervendrá de inmediato.
Galería de fotos
Gracias a esto, no deberían volver a ocurrir incidentes similares al ataque. Abrazando la cara, realizado por el modelo OpenAI probado. Aún más grave es el informe reciente de AustraliaSegún el cual, un agente deshonesto de OpenAI irrumpió en archivos públicos y privados del sistema Medi.care. Y cabe esperar que problemas similares aumenten. Además, creo que hay muchos que se han mantenido en secreto hasta ahora.
Es evidente que la IA necesita un freno claro. Empresas como OpenAI aún no pueden ofrecerlo. Y la solución de NVIDIA está disponible a través de GitHub podría ser la salvación.
Pero me sorprendió que quienes están detrás del desarrollo de agentes de IA, es decir, Google, no participaran en ello. Meta, Antropía o OpenAI. Al mismo tiempo Elon Musk, quien no solo desarrolla modelos de IA sino que también critica frecuentemente el desarrollo incontrolable de OpenAI, estaba deseoso de participar. Aun así, espero que la Plataforma de Seguridad de Agentes Abiertos sea suficiente para mantenernos seguros y proteger la privacidad de nuestros datos.
