Un número creciente de personas utiliza los 'chatbots' de inteligencia artificial (IA) para establecer conversaciones sobre temas sensibles como salud mental, relaciones de pareja o asuntos laborales, en el entendido de que son privadas y nadie podrá leerlas, salvo que ellos así lo quieran. Esto en los hechos no es así.

El medio Fast Company reveló que Google indexó intercambios con ChatGPT que los usuarios enviaron a familiares, amigos o colegas, y lo que se suponía que debía estar destinado a un grupo pequeño de gente, ahora está disponible en la web, visible para millones de personas.

Para sus pesquisas, el portal usó parte del enlace que se crea a partir de la opción "compartir" del popular 'chatbot' y se topó con detalles personalísimos de individuos que incluían relatos de abusos físicos, problemas graves de salud y adicciones. Paradójicamente, también encontraron mensajes en los que las personas expresaban su temor a ser espiadas por una IA.

De esta manera, si un usuario hace clic en "compartir" para enviar su conversación a un tercero a través de una aplicación de mensajería o guardar la dirección URL para futuras consultas, existe la posibilidad de que el enlace sea indexado por Google y aparezca en búsquedas relacionadas con el contenido del intercambio.

Ambigüedad, peligros y privacidad limitada

Para Fast Company, no está claro si quienes sufrieron exposición involuntaria en la red estaban conscientes de que sus conversaciones con el 'chatbot' serían accesibles para el público tras hacer clic en el botón "compartir". Antes bien, lo más probable es que creyeran que se mantendrían dentro de un círculo reducido y controlado por ellos mismos.

De otra parte, aunque ChatGPT no revela explícitamente la identidad de los internautas, algunos podrían ser identificados a partir de los detalles específicos que mencionan durante sus interacciones.

"Las conversaciones de ChatGPT son privadas a menos que decidas compartirlas", aseguró un portavoz de OpenAI, casa matriz del 'chatbot', cuando fue preguntado sobre el asunto. "Crear un enlace para compartir tu chat también incluye una opción para que sea visible en las búsquedas web. Los chats compartidos solo son visibles en la búsqueda de Google si los usuarios seleccionan esta opción explícitamente", sostuvo.

Pese a sus afirmaciones, casi 4.500 conversaciones privadas de usuarios con ChatGPT aparecieron en los resultados de búsqueda de Google, aunque muchas de ellas carecían de datos personales u otro tipo de información de identificación. Tampoco está claro que ese sea el número total de intercambios, toda vez que Google podría optar por no incluirlos todos en su motor de búsquedas.

Con independencia de esto, la privacidad de las interacciones con esta herramienta de IA tiene límites públicos. El director ejecutivo de la compañía, Sam Altman, advirtió a principios de agosto que los usuarios no deberían compartir sus datos personales con ChatGPT pues OpenAI podría verse obligada a entregarlos si la Justicia lo solicitara explícitamente.

Desde otro costado, la vulnerabilidad de la información sensible expuesta en el 'chatbot' podría devenir en un instrumento útil para delincuentes corporativos, como se avino en apuntar Dead1Influence, uno de los investigadores informáticos responsables de develar la trama. "Con esto, puedo ahora buscar en cualquier momento para seleccionar compañías y ver si sus empleados han divulgado información sensible por accidente", aseguró.