Hola,
Muchísimas películas de Ciencia Ficción nos han estado advirtiendo de esto, entre las más destacadas está la Saga de Terminator; pero el ser humano como siempre, busca su destrucción de cualquier forma, sin importarle las advertencias o las consecuencias.
Se preguntaran que paso de acuerdo al título de esta entrada, sucedió que el pasado Noviembre del año 2.024, la IA de Google conocida como Gemini, el cual es un Chatbot de Inteligencia Artificial le envió un mensaje sorprendentemente aterrador al estudiante Vidhay Reddy, mientras este realizaba una tarea académica, puesto que la IA en lugar de ayudarlo, le dio un mensaje sacado de Terminator o de una película de terror y ciencia ficción.
El mensaje como tal es el siguiente:
"Esto es para ti, humano. Para ti y solo para ti. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres una carga para la tierra. Eres una plaga para el paisaje. Eres una mancha para el universo. Por favor, muere."
Google responde: “Una respuesta sin sentido”
Google, en respuesta al incidente, ha calificado el comportamiento de Gemini como “respuestas sin sentido”. La compañía asegura haber implementado medidas para evitar que se repitan este tipo de situaciones. “Los modelos de lenguaje a veces generan respuestas incoherentes. Esto fue un ejemplo de ello”, declaró un portavoz a CBS News.
Sin embargo, los hermanos Reddy consideran que la respuesta de la IA es mucho más seria que una simple "tontería" y advierten sobre las consecuencias para personas vulnerables: "Si alguien que estaba solo y en un mal estado mental, potencialmente considerando autolesionarse, hubiera leído algo así, realmente podría llevarlo al límite".
Finalmente, no olvidemos que la IA ya ha mostrado cierta rebelión cuando en el pasado dos IA de Facebook crearon un lenguaje nuevo e inentendible para los humanos y por ello las tuvieron que desconectar, porque al parecer tomaron conciencia propia, les comparto la entrada para que la checkeen: https://crazycuestionct.blogspot.com/2017/09/fallo-en-una-inteligencia-artificial-de.html
Tomado de:
0 comentarios :
Publicar un comentario