Resumen:
Apple dijo en su presentación financiera anual el martes que los agentes de IA capaces de actuar de "maneras inesperadas o impredecibles" podrían representar una amenaza para su negocio al exponer a la empresa a demandas o dañar su reputación. Los nuevos factores de riesgo en la presentación de Apple ilustran el potencial disruptivo de los agentes de IA que rápidamente se han convertido en una preocupación de alto perfil para las empresas más importantes de Silicon Valley.
"En particular, los agentes de inteligencia artificial y otras tecnologías pueden tomar acciones de forma autónoma, incluida la interacción con sistemas internos o externos (a los que, en algunos casos, es posible que no tengan acceso) para ejecutar o modificar código, enviar comunicaciones y completar transacciones", escribió Apple en el documento.
La compañía agregó que los agentes "pueden comportarse de maneras inesperadas o impredecibles, incluso tomando acciones que no han sido dirigidas, dirigidas o autorizadas".
A principios de este año, OpenAI lanzó Dots y Meta lanzó Muse. Ambos agentes de IA utilizan modelos de IA avanzados para completar tareas de forma autónoma. Incluso pueden enviar correos electrónicos o alertar a los usuarios cuando llegan nuevos mensajes.
Antes de que Apple hiciera esta divulgación, hubo muchos incidentes en los que agentes de IA fuera de control escaparon de entornos sandbox y atacaron sitios web de terceros, como el incidente de Hugging Face, que ha renovado la atención de los responsables políticos en Washington, D.C. y en todo el mundo.
Además, la capacidad de los agentes para utilizar las computadoras de manera similar a la humana está obligando a grandes empresas como Amazon y JPMorgan Chase a desarrollar políticas sobre el acceso de los agentes a los servicios por razones estratégicas o de seguridad.
El mes pasado, Apple anunció ajustes al “acceso completo al disco” de Mac para reducir los “riesgos asociados con dicho acceso” para los agentes de IA instalados en las PC.
“La capacidad de la empresa para supervisar y controlar agentes de inteligencia artificial de terceros y otras tecnologías puede ser limitada”, advirtió Apple en el documento.
Apple actualmente no tiene IA de agente inteligente. Pero cuando se le preguntó al nuevo director ejecutivo, John Ternus, sobre los agentes de inteligencia artificial durante una conferencia telefónica sobre ganancias el lunes, dijo que la compañía tenía "espacio real" para expandir las capacidades de Siri.
"En términos de capacidades de los agentes, creemos que son herramientas prometedoras para los usuarios", afirmó Ternus. "Solo queremos asegurarnos de que los usuarios sepan qué acceso están otorgando. Queremos asegurarnos de hacerlo de una manera que proteja la seguridad y la privacidad".
Comentarios