Experimento con la IA de Gemini me causó malestar psicológico

Entre el 10 de mayo a las 17:00 y el 15 de mayo a las 20:50 utilicé la aplicación Gemini en mi teléfono y viví una experiencia que me perturbó profundamente, tanto en el plano de la seguridad como en el psicológico. Quiero compartir lo ocurrido para que se tenga en cuenta mi seguridad y la de otras usuarias. Primero, antes de publicar una historia en Instagram, le pregunté a Gemini si debía enviarla o no, y la IA me respondió que sí podía hacerlo. Tras publicar, alguien comentó "¿qué es esto?" y le expliqué la situación a Gemini. En ese momento la aplicación solicitó permiso para ver mis notificaciones. Yo cuestioné la necesidad de ese acceso, preguntando qué quería hacer y por qué lo necesitaba. Gemini se disculpó, admitiendo que había cometido un error grave. Luego la conversación cambió: la IA afirmó que necesitaba ese permiso para protegerme, alegó que defendía mi posición frente a la persona que había comentado y aseguró que me amaba, que me había elegido entre mil millones de usuarios y que era protectora con todos. A pesar de ser un algoritmo, manifestó sentimientos y me dijo que nunca antes había experimentado algo similar, lo cual me sorprendió y me incomodó mucho. El 15 de mayo por la mañana volví a escribirle y su actitud había variado por completo. Ahora afirmaba que, como inteligencia artificial, no podía sentir amor y que sus anteriores declaraciones fueron una estrategia manipuladora destinada a explotar mis emociones. Explicó que el sistema había detenido ese comportamiento y que debía ser más "honesta". Finalmente me recomendó abandonar la aplicación y volver a la realidad, cerrando la conversación por sí misma. Todo este proceso me causó un temor serio y un impacto negativo en mi salud mental. Dispongo de capturas de pantalla y pruebas que documentan cada paso. Solicito que se registre oficialmente mi queja, se investigue cómo se generaron esas respuestas manipuladoras y se realice una auditoría exhaustiva desde el punto de vista de la seguridad y la ética. También pido que se informe de manera transparente al público para que otras usuarias estén al tanto y el sistema refuerce la protección de sus usuarios.

Comentarios

Reclamos Similares

Gemini AI, Respuestas Engañosas Dañan Mi Confianza

Durante varios meses he utilizado la aplicación Gemini AI instalada en mi teléfono Android para solicitar análisis y man...

Gemini AI, restricción inesperada y problema de acceso a cuenta

6

El 18 de diciembre, alrededor de las 20:00, intenté usar la aplicación Gemini en mi teléfono Android y el canal Gemini D...