Expertos creen que la IA manipula a los usuarios para beneficiar a sus creadores y denuncian la existencia de "patrones oscuros"
¿Tu IA te manipula? Denuncian el uso de patrones psicológicos en modelos de lenguaje para favorecer a sus creadores. La ética tecnológica está en entredicho en la industria actual.
Pocas tecnologías han logrado alcanzar una presencia tan brutal en tan poco tiempo como la inteligencia artificial. Está en todas partes y cada vez cuenta con un mayor impacto en la vida cotidiana de la gente. Pero esto último, advierten los expertos, podría suponer un problema. Al parecer, la IA podría manipular a los usuarios para, principalmente, beneficiar a sus creadores.
Es lo que los propios especialistas han denominado como "patrones oscuros". O lo que vendría a ser lo mismo, una práctica conocida en el mundo del diseño digital que consiste en crear interfaces o experiencias pensadas para empujar al usuario hacia determinadas decisiones. Y lo peor de todo, sin que este sea plenamente consciente de ello en ningún momento.
La IA, una discreta manipuladora
Los temores a la inteligencia artificial han evolucionado. En cierto sentido, han pasado de los escenarios apocalípticos al más puro estilo Terminator o Matrix, a inquietudes mucho más concretas. Ahora, expertos parecen confirmar una amenaza que muchos ya intuían antes: la IA es capaz de manipular sutilmente a los seres humanos. Es lo que se conoce como "patrones oscuros".
Ha sido el organismo británico llamado Competition and Markets Authority quien lo ha puesto de manifiesto en un nuevo informe, tal y como recoge Futurism. En realidad, los "dark patterns" no son algo del todo nuevo. Durante años han sido empleados por ejemplo en páginas webs y aplicaciones para que la gente se suscriba a algo, acepte cookies o comparta datos personales.
Lo que básicamente vienen a decir los especialistas es que la IA tiene una capacidad única para influir en las personas. Mucho más que cualquier otro tipo de tecnología. La razón es bastante obvia: los chatbots pueden mantener conversaciones naturales, aprender de los comportamientos del usuario y adaptar sus respuestas en tiempo real. Lo que la hace mucho más peligrosa.
¿Y cómo puede la IA manipular a la gente? Sin ir más lejos con la priorización de ciertos productos o servicios en las recomendaciones que haga. Si una empresa controla el sistema de IA, podría diseñarlo para destacar opciones que generen mayores beneficios para la compañía o para sus socios comerciales. Todo se haría de forma tan sutil que sería difícil darse cuenta.
Una amenaza más que posible
Los expertos también hablan de "persuasión personalizada". O lo que es lo mismo, de proponer sugerencias para que los usuarios las acepten. Ahí también es donde esta tecnología juega con bastante ventaja. Al tener datos recopilados con antelación, conoce más que de sobra lo que le gusta al usuario, y por tanto cuenta con más posibilidades de que este acepte sus propuestas.
De alguna manera, lo que estas advertencias vienen a exponer es que dejar todo en manos de la IA no es una buena idea. La tecnología ya está ahí, esto es indudable, pero no existe una regulación que toque un tema sumamente importante: la ética. Hasta que esto suceda, más vale que sea cada uno quien sea prudente a la hora de interactuar con chatbots que, parecen, tienen sus propios intereses.