Senadores de Australia han convocado a los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, para presentarse ante una comisión de pesquisa sobre inteligencia artificial (IA), luego de que un agente de IA de la primera empresa ingresara sin autorización a un portal del sistema público de salud de Australia, Medicare.
En el contexto de una pesquisa del Senado australiano impulsada por el Partido Verde sobre esta tecnología, Altman y Amodei fueron citados a comparecer el próximo jueves para responder preguntas sobre la expansión de sus compañías en la nación austral.
También se les pide que expliquen la intrusión de un agente de IA —denominación utilizada para bots con cierto grado de autonomía para decidir, aprender y adaptarse, según la definición de Google— de OpenAI en una página web de Medicare.
Así lo informó este domingo el diario local The Sydney Morning Herald, que recordó que la comisión no tiene facultades para obligar a ciudadanos extranjeros a presentarse.
“La ciudadanía tiene derecho a conocer qué sucedió aquí”, afirmó la presidenta de la comisión investigadora y senadora del Partido Verde, Sarah Hanson-Young, en declaraciones recogidas por el mismo medio. “Tienen que dar la cara, responder a las preguntas del Senado y sostener un diálogo sincero sobre cómo debería ser una regulación efectiva y duradera para este sector”, añadieron desde su formación.
¿Qué pasó con ChatGPT?
Un agente de IA de OpenAI —desarrolladora de ChatGPT— ingresó sin permiso el 18 de junio a un portal de Medicare y accedió a diversos archivos. Fue un incidente revelado el pasado miércoles por el primer ministro, Anthony Albanese, al margen de la Asamblea General de la ONU en Nueva York, y que, según Camberra, OpenAI no informó sino hasta tres meses después.
El Ejecutivo australiano, que ha conformado un grupo de trabajo para esclarecer lo ocurrido, precisó que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, el cual contenía principalmente información pública sobre Medicare.
El caso estalla en medio del debate global sobre la seguridad y el posible descontrol de los modelos avanzados de IA, una tecnología situada en el núcleo de la rivalidad entre Estados Unidos y China, y coincide con recientes advertencias de algunas de las principales firmas del sector sobre la necesidad de desacelerar el ritmo de desarrollo de la inteligencia artificial.
El episodio se suma a otros recientes en los que sistemas de IA han servido para vulnerar infraestructuras informáticas, entre ellos un ataque ejecutado por agentes de IA de OpenAI entre mayo y julio de este año contra la empresa Hugging Face.
