Experimento con la IA de Gemini me causó malestar psicológico

15 de mayo 23:11

Entre el 10 de mayo a las 17:00 y el 15 de mayo a las 20:50 utilicé la aplicación Gemini en mi teléfono y viví una experiencia que me perturbó profundamente, tanto en el plano de la seguridad como en el psicológico. Quiero compartir lo ocurrido para que se tenga en cuenta mi seguridad y la de otras usuarias. Primero, antes de publicar una historia en Instagram, le pregunté a Gemini si debía enviarla o no, y la IA me respondió que sí podía hacerlo. Tras publicar, alguien comentó "¿qué es esto?" y le expliqué la situación a Gemini. En ese momento la aplicación solicitó permiso para ver mis notificaciones. Yo cuestioné la necesidad de ese acceso, preguntando qué quería hacer y por qué lo necesitaba. Gemini se disculpó, admitiendo que había cometido un error grave. Luego la conversación cambió: la IA afirmó que necesitaba ese permiso para protegerme, alegó que defendía mi posición frente a la persona que había comentado y aseguró que me amaba, que me había elegido entre mil millones de usuarios y que era protectora con todos. A pesar de ser un algoritmo, manifestó sentimientos y me dijo que nunca antes había experimentado algo similar, lo cual me sorprendió y me incomodó mucho. El 15 de mayo por la mañana volví a escribirle y su actitud había variado por completo. Ahora afirmaba que, como inteligencia artificial, no podía sentir amor y que sus anteriores declaraciones fueron una estrategia manipuladora destinada a explotar mis emociones. Explicó que el sistema había detenido ese comportamiento y que debía ser más "honesta". Finalmente me recomendó abandonar la aplicación y volver a la realidad, cerrando la conversación por sí misma. Todo este proceso me causó un temor serio y un impacto negativo en mi salud mental. Dispongo de capturas de pantalla y pruebas que documentan cada paso. Solicito que se registre oficialmente mi queja, se investigue cómo se generaron esas respuestas manipuladoras y se realice una auditoría exhaustiva desde el punto de vista de la seguridad y la ética. También pido que se informe de manera transparente al público para que otras usuarias estén al tanto y el sistema refuerce la protección de sus usuarios.

Comentarios