Dario Amodei, CEO de Anthropic, lanza una advertencia sobre la IA: "No cederemos a las presiones empresariales ni políticas"

Elígenos como tu fuente preferida en Google.
Dario Amodei, el líder y CEO de Anthropic ha reconocido nuevamente que no piensa pisar el acelerador en el desarrollo de la inteligencia artificial a pesar de las muchas presiones externa que recibe.
Dario Amodei, director ejecutivo de Anthropic y uno de los principales gurús de la inteligencia artificial en la actualidad, ha reconocido públicamente que no tiene ningún motivo para frenar el desarrollo de la inteligencia artificial y ha reafirmado su compromiso de acelerarlo, insistiendo en que no cederá "ante presiones comerciales ni políticas" y que tanto la firma como esta tecnología "permanecería bajo control humano".
El CEO de la empresa desarrolladora de Claude ha explicado recientemente que conviene poner en marcha todos los motores de desarrollo de la IA empleando en ello diferentes medidas de seguridad que reduzcan al máximo los riesgos que ésta conlleva que, a su juicio, son "muy reales".
Amodei impulsa la IA siendo consciente de su poder
Anthropic ha debutado este jueves en el Nasdaq, la bolsa de valores electrónica de estados Unidos, que agrupa a miles de compañías con fuerte presencia de sectores tecnológicos y también del apartado de telecomunicaciones.
En su primer día y tras hacer sonar la campana del Nasdaq, Amodei ha cerrado en 97,17 dólares por acción con Anthropic, que ha entrado oficialmente en la Bolsa con un 17% por encima de los 83 dólares a los que fijó su oferta pública inicial.
En este momento histórico tanto para la firma como para su propio líder, éste ha querido contar cuál es su visión sobre la inteligencia artificial, haciendo también hincapié en qué fue lo que le llevó a crear Anthropic, tal y como sostiene TechCrunch.
En primer lugar, ha explicado que Anthropic se creó pensando en la tecnología como una herramienta también inventada para ayudar a la humanidad. Asimismo, ha reconocido que lo hizo inspirándose en la muerte de un familiar, más concretamente su padre, por una enfermedad a la que años después se encontró cura gracias a la tecnología.
En este sentido, ha insistido en la idea de que muchas enfermedades tardan en erradicarse debido a que se necesita tiempo para investigar una cura para ellas, algo en lo que podría contribuir la propia inteligencia artificial, agilizando ciertos procesos para dar con la clave de estas dolencias.
Teniendo en cuenta los innumerables beneficios que puede aportar la tecnología, Amodei también ha querido poner el foco en los riesgos a los que se exponen las empresas a la hora de desarrollarla y los ciudadanos en el momento de utilizarla.
En este sentido, ha hecho referencia a que se dan "riesgos muy reales" con la IA en caso de caer en manos de individuos con malas intenciones, sin descartar humanos o estados nación, que podrían usar la IA a su favor y, en consecuencia, promover la "perturbación económica" y la "pérdida de control de los sistemas de IA".
Anthropic ya impulsa medidas de seguridad pensadas en la inteligencia artificial
Conviene recordar que no es la primera vez que Dario Amodei habla acerca de las catastróficas consecuencias que tendría la pérdida del control de sistemas de IA, que, de ser suficientemente potentes, "podrían convertirse en una amenaza para la seguridad mundial".
Así lo indicó en un documento que supera las 250 páginas y que Anthropic publicó solo unos días antes de la salida a Bolsa de la empresa, donde reconoció que la IA que está creando podría llegar un verdadero problema para la humanidad.
Sobre ello, Amodei ha reconocido en su discurso que se trata de riesgos que siempre se pueden evitar o solucionar empleando importantes medidas de seguridad, algo en lo que la compañía ya invierte.
"Queda mucho trabajo por hacer y la labor más difícil en materia de seguridad está por venir", ha afirmado el directivo, que cree que "el increíble talento de la empresa que ha permitido construir los sistemas de IA más avanzados deberá canalizarse aún más para verificar que éstos sean seguros y permanezcan bajo control humano".
Con ello, ha querido dejar claro que desde Anthropic pretenden avanzar "con cautela en la formación e implementación de sistemas de IA" y que lo harán tomándose "el tiempo necesario". "No cederemos ante presiones comerciales ni políticas", ha manifestado.


