OpenAI reconoce que hay un riesgo de que te enamores de la IA, por esta razón
Desde ChatGPT han creado un informa hablando de los riesgos de la inteligencia artificial, y sentir una excesiva "dependencia emocional" se encuentra entre ellos.
No son pocas las ocasiones en las que se habla de los riesgos de la inteligencia artificial. De hecho, no faltan quienes incluso tienden a ver en ellas una tecnología capaz de terminar con la humanidad. Sin embargo, existen otras amenazas, si quieren llamarse así, que hasta la gente de OpenAI, sus creadores, reconocen: que te enamores de la su herramienta ChatGPT.
La razón es bastante sencilla en realidad: según un nuevo informe de riesgos desarrollado por la compañía, sus reacciones “humanas”, para las cuales se entrena, podrían hacer que los algunos usuarios desarrollaran lazos emocionales. Algo que llama la atención, sobre todo después de la polémica creada en torno a las voces de su modelo y que este fuese comparado con Her.
Los riesgos de ChatGPT, según OpenAI
Según este trabajo, llevado a cabo por la propia OpenAI, ChatGPT tiene algunos riesgos. No es la primera vez que desde la empresa fundada por Sam Altman apuntan en esta dirección, e incluso el mismo Elon Musk o algunos antiguos trabajadores han en tela de juicio las connotaciones éticas de esta inteligencia artificial y la manera en la que es entrenada.
Entre las principales amenazas de las que se advierte, se habla de la generación no autorizada de voz, la posible creación de contenido con derechos de autor (otro asunto que ha dado mucho de qué hablar), o la generación de imágenes o textos prohibido o potencialmente peligrosos. Sin ir más lejos, todo lo que tiene que ver con asuntos violentos o eróticos.
Pero entre todo ello, resulta especialmente sorprendente que OpenAI admita que ChatGPT puede provocar lo que ellos califican como “relaciones poco saludables” y lo explican: al mantener relaciones emocionales con la IA, los usuarios podrían dejar de tener necesidad de tratar naturalmente con otras personas, provocando así una trasformación social a tener a cuenta.
Si esta circunstancia recuerda a lo visto en películas de ciencia ficción como Her, es porque realmente existen muchas similitudes. Por eso, que la compañía admita este peligro, parece contradecirse con la intención de Sam Altman de dotar a ChatGPT de la voz de Scarlett Johansson, o incluso crear un enorme revuelo cuando él mismo publicó en sus redes sociales simplemente “Her”.
Enamorarse de una IA
No es la primera vez que el tema de enamorarse de una IA se pone de actualidad en los tiempos que corren. De hecho, ya existen alternativas creadas con este fin, como sucede con la inteligencia artificial Replika, e incluso hay redes sociales que igualmente funcionan con esta tecnología. La diferencia, no obstante, radica de que, al menos en teoría, ChatGPT no busca precisamente eso.
Todo ello, surge además, después de que un nuevo informe también sugiera lo potencialmente manipuladora que podría ser la IA a la hora de hacer que la gente cambiara de opinión. Teniendo en cuenta ambas circunstancias, el impacto de esta tecnología en todos aquellos que interactúen con ella parece difícil de calcular, y de nuevo hace pensar en films fantásticos.
Por lo menos, OpenAI demuestra ser consciente de ello y, entre sus objetivos, está el tomar las medidas necesarias para evitar una “dependencia excesiva”. Que lo consigan o no, ya será otro tema.