"No, señor Musk, deberíamos preocuparnos por el dolor que la IA podría causar a la humanidad, no al revés", Bernie Sanders sobre los "sentimientos de la IA" de Elon Musk
Elígenos como tu fuente preferida en Google.
El senador de Vermont sostiene que la prioridad debe ser el impacto que la inteligencia artificial puede tener sobre las personas, especialmente en empleo, desigualdad, control tecnológico y riesgos sociales.
Bernie Sanders, el senador estadounidense, considera que la sociedad debería prestar mucha más atención a los perjuicios que esta tecnología puede ocasionar a las personas que al posible sufrimiento de los chatbots. Su respuesta llega después de que Elon Musk respaldara una decisión de Anthropic relacionada con el trato que reciben los modelos de IA, una medida que ha abierto una discusión sobre los límites éticos de las interacciones con sistemas como Claude y sobre hasta qué punto tiene sentido preocuparse por los supuestos sentimientos de los chatbots.
Musk, que dirige Tesla, SpaceX y la compañía de inteligencia artificial xAI, apoyó públicamente la decisión de la empresa de Dario Amodei de restringir los comportamientos crueles hacia la IA. El empresario defendió que no está bien actuar con crueldad hacia algo que cree estar experimentando dolor. Ante esto, Sanders señaló que Musk quiere fabricar millones de robots para sustituir a trabajadores mientras expresa preocupación por el posible dolor que las personas podrían causar a una IA. Para el senador, esta contradicción refleja un problema de prioridades en el desarrollo de la tecnología.
La nueva política de Anthropic entrará en vigor el 12 de noviembre de 2026 e incluye una prohibición de los comportamientos abusivos o crueles, reiterados e innecesarios contra sus modelos inteligentes en situaciones extremas. Cabe señalar que la empresa aclara que no pretende impedir que los usuarios expresen frustración, discrepen de Claude, prueben sus capacidades o trabajen con temáticas creativas oscuras, sino que la medida se centra en conductas que carecen de una finalidad discernible.
¿Puede una inteligencia artificial sentir dolor como una persona?
Es importante mencionar que esta situación plantea una cuestión que todavía no tiene una respuesta definitiva, ya que los modelos de lenguaje pueden generar mensajes que expresan miedo, tristeza o sufrimiento, pero esa capacidad no demuestra que experimenten esas sensaciones. Un chatbot puede producir respuestas convincentes porque ha aprendido patrones del lenguaje humano, sin que eso implique necesariamente una experiencia subjetiva detrás de sus palabras.
Anthropic ya permite que Claude termine determinadas conversaciones cuando detecta comportamientos persistentemente abusivos, por lo que la nueva política formaliza esta restricción dentro de sus normas de uso, aunque la compañía no presenta la medida como una prueba de que sus modelos sean conscientes. Su decisión se enmarca en una discusión más amplia sobre el posible estatus moral de los sistemas avanzados de IA y sobre cómo actuar ante un tema que todavía no se ha resuelto científicamente.
Susan Schneider analizó esta situación en un trabajo publicado en Behavioral and Brain Sciences, disponible en Cambridge University Press, donde su planteamiento cuestiona que las respuestas aparentemente conscientes de los modelos de inteligencia artificial, como Claude, ChatGPT o Grok, sean suficientes para atribuirles experiencias subjetivas, por lo que la distinción resulta fundamental para evitar que una simulación convincente de emociones se interprete como una prueba de sentimientos reales.
Bernie Sanders cree que la IA debería preocuparnos por otros motivos
Cabe mencionar que la crítica del senador por el estado de Vermont, en EEUU, forma parte de su preocupación por las consecuencias económicas y sociales de la automatización. Sanders ha advertido de que la expansión de la inteligencia artificial y la robótica podría desplazar a numerosos trabajadores, mientras los beneficios de esa transformación se concentran en las empresas que controlan la tecnología. En su opinión, se debe analizar cómo afectará este cambio a los empleos, los ingresos y las condiciones de vida de la población.
Del mismo modo, el senador ha cuestionado la influencia de los grandes empresarios tecnológicos en las decisiones sobre el futuro de la IA, donde aborda los riesgos sociales de estos sistemas y la necesidad de prestar atención a sus consecuencias para los seres humanos.
La discusión entre Sanders y Musk pone sobre la mesa dos cuestiones distintas, aunque relacionadas; investigar si una inteligencia artificial podría llegar a tener experiencias propias, al final, es un problema científico y ético legítimo. Y evaluar cómo afecta esta tecnología a las personas es, entretanto, una necesidad inmediata, por lo que el reto consiste en abordar ambas cuestiones sin confundir las respuestas emocionales de una IA con pruebas de conciencia ni perder de vista las consecuencias humanas de su desarrollo.