Denuncias a empresas de Inteligencia Artificial: ¿Dónde está el límite?

El acceso a aplicaciones de inteligencia artificial está al alcance la mano y disponible para responder sobre cualquier tema que necesitemos. Sin embargo existen casos que nos permiten reflexionar sobre los límites que debemos considerar antes de tomar como ley una respuesta entregada por alguna de estas tecnologías.

Es, por ejemplo, el caso de una mujer de 31 años que murió en Estados Unidos tras consultar a ChatGPT sobre su medicación para la epilepsia. Tras su muerte, sus padres demandaron a la empresa OpenAI y abrieron el debate sobre hasta qué punto son responsables estas instituciones de las decisiones que puedan tomar las personas, a partir de la información que se les entrega.

Un modelo complaciente

En conversación con Matinal Nuestra Casa, Germán Gómez, docente del Instituto de Data Science de la Universidad del Desarrollo, explicó que el problema tiene dos aristas, el usuario, con la forma en la que formula y entiende sus preguntas; y el diseño del producto, con la manera en que entrega las respuestas.

En ese sentido, advirtió que una respuesta puede ser personalizada y cercana, pero errónea. "Una respuesta que pueda dar un chat puede ser personalizada, puede ser muy cálida y puede ser equivocada", apuntó.

Así mismo, indicó que un modelo complaciente tiende a darle la razón al usuario, y sostuvo que se trata de un problema profundo de las inteligencias artificiales, pues buscan mantener el tiempo de interacción.

El caso de Meta y la privacidad

Por otra parte en Chile, específicamente en región de Ñuble, existe el caso de una joven que fue detenida por la PDI tras informes de Meta que la acusaban de amenazas contra el presidente José Antonio Kast. Sin embargo, los mensajes habrían sido enviados en un grupo privado.

Al respecto, Gómez indicó que primero habría que saber cómo Meta obtuvo la información; y distinguió entre las conversaciones privadas y los contenidos públicos, afirmando que los que se monitorean son justamente estos últimos.