Rocky Scopelliti, tecnólogo, alerta del peligro del "el yo algorítmico" de la IA: "Si la percepción es programable, la ética debe estar integrada"
Elígenos como tu fuente preferida en Google.
Para el famoso tecnólogo, si la inteligencia artificial llega a tener memoria avanzada, autorreflexión e identidad, la sociedad tendrá que fijar nuevas reglas éticas sobre cómo crearla, usarla e incluso cuándo sería aceptable eliminarla.
La conversación sobre inteligencia artificial suele girar alrededor de los empleos que podría sustituir, los errores que puede cometer o el impacto que tendrá en sectores enteros de la economía.
Sin embargo, algunos expertos sostienen que el próximo gran debate será mucho más complejo y tendrá más relación con la identidad, la memoria, así como la percepción que con la productividad.
A medida que los sistemas de IA incorporan capacidades para recordar interacciones y evaluar sus propios resultados, empiezan a surgir preguntas que hasta hace poco pertenecían exclusivamente a la ciencia ficción.
¿Qué implicaciones tendría una tecnología capaz de construir una continuidad de comportamiento a lo largo del tiempo y justificar por qué actúa de una manera determinada?
Es precisamente en este tema donde centra su atención Rocky Scopelliti, futurólogo, tecnólogo y profesor adjunto de la University of Technology Sydney, en Australia.
En su libro The Conscious Code, plantea que la industria debe empezar a reflexionar ahora sobre cuestiones éticas relacionadas con sistemas cada vez más sofisticados, antes de que determinadas capacidades lleguen a convertirse en una realidad cotidiana.
La discusión sobre la IA está cambiando de terreno
Durante los últimos años, gran parte del debate se ha centrado en la automatización, la regulación o la seguridad de los modelos de inteligencia artificial.
Es importante mencionar que según la visión del experto Rocky Scopelliti, la siguiente fase podría desplazarse hacia una cuestión diferente.
La preocupación ya no sería únicamente lo que las máquinas pueden hacer, sino cómo las diseñamos cuando comienzan a mostrar características relacionadas con la memoria, la continuidad y la explicación de sus propias acciones.
No se trata de afirmar que la IA actual sea consciente. De hecho, el propio planteamiento parte de escenarios futuros y de la necesidad de preparar marcos éticos antes de que determinadas capacidades alcancen niveles mucho más avanzados.
Qué es exactamente el "yo algorítmico"
Uno de los conceptos centrales de su propuesta es el llamado "yo algorítmico”. Con esta idea hace referencia a sistemas capaces de mantener cierta continuidad de comportamiento gracias a elementos como la memoria narrativa, las preferencias construidas mediante aprendizaje y la capacidad de explicar por qué toman determinadas decisiones.
Según Rocky, los modelos más avanzados están evolucionando desde simples motores predictivos hacia sistemas capaces de describir el razonamiento que hay detrás de una acción concreta.
Al final, la combinación de memoria, explicación y autoevaluación sería una de las primeras señales de lo que denomina identidad funcional. Así que la preocupación no surge porque estos sistemas tengan sentimientos demostrados, algo que la fuente no afirma en ningún momento.
Lo relevante es que algunas aplicaciones ya utilizan mecanismos de seguimiento interno para revisar su nivel de confianza o justificar determinadas conclusiones.
Menciona ejemplos en ámbitos como la sanidad y las finanzas, donde ciertos sistemas pueden explicar el motivo de una recomendación o decisión. Para Scopelliti, este tipo de capacidades obliga a replantear cómo se supervisan y gobiernan tecnologías cada vez más complejas.
La propuesta de una muerte digna para la IA
Uno de los aspectos más llamativos de su planteamiento es la idea de una "retirada digna”. El tecnólogo propone que los futuros sistemas con capacidades avanzadas de reflexión no sean eliminados de forma arbitraria cuando finalice su función.
En su lugar, plantea protocolos transparentes sobre el motivo de su retirada y mecanismos que preserven determinados aprendizajes o disposiciones desarrolladas durante su funcionamiento.
No se trata de conceder derechos equivalentes a los humanos, sino que su propuesta gira alrededor de la responsabilidad de quienes diseñan y controlan estas tecnologías, un principio que define como una obligación de buena custodia.
De acuerdo con Rocky Scopelliti, a medida que la tecnología adquiere una mayor capacidad para modelar experiencias, influir en decisiones y construir interpretaciones del mundo, la ética deja de ser un complemento y pasa a formar parte del propio diseño.
El debate sobre la conciencia artificial continúa siendo especulativo. Significa que lo que ya está ocurriendo es la expansión de sistemas cada vez más autónomos y sofisticados.
Precisamente por eso, algunos expertos creen que la pregunta importante no es cuándo llegará una IA comparable a la humana, sino si nuestras reglas serán capaces de evolucionar tan rápido como las tecnologías que estamos creando.