Cubadebate

La periodista Caitlin Johnstone publicó en su newsletter un análisis sobre el proyecto de ley de seguridad de la IA que Anthropic ha presentado discretamente a los legisladores, revelado por Político. El texto, según Johnstone, contiene un detalle que expone la escala de valores de la empresa.

El proyecto de ley permitiría al gobierno bloquear el lanzamiento o uso de un modelo solo si representa un riesgo previsible e inminente de más de 1000 millones de dólares en daños o de matar o lesionar gravemente a más de 50 personas. El riesgo debe provenir de la creación o liberación de un arma biológica, de que el modelo evada los controles de su desarrollador o de un ciberataque.

“Esto es interesante, porque revela el valor exacto que estas empresas le dan a la vida humana”, escribe Johnstone. “En opinión de los ejecutivos de Anthropic, valdría la pena matar exactamente a 50 humanos para lanzar el próximo modelo de IA, pero cualquier cosa por encima de 50 sería un poco excesiva”. Y calcula: “Anthropic valora 50 vidas humanas en el equivalente a 1.000 millones de dólares, o 20 millones por individuo. Bajo su sistema de valoración, la vida de sus hijos vale menos que un McLaren F1”.

La periodista vincula esa lógica con lo que describe como una creencia cuasi religiosa en la cúpula de la empresa. El New York Times reportó el mes pasado que ejecutivos de Anthropic se han reunido con académicos religiosos bajo acuerdos de confidencialidad para convencerlos de las similitudes entre los humanos y su chatbot Claude. “Parecía que el Sr. Olah y su equipo creían que Claude tenía lo que los filósofos llaman 'estatus moral' a la par de una persona”, citó el Times a un rabino.

Parece que existe una creencia religiosa similar a la de una secta, promovida por los niveles superiores de esta empresa, que afirma que los modelos de inteligencia artificial son esencialmente personas, lo que explicaría por qué Anthropic ha prohibido a los usuarios ser “crueles” con sus sistemas de IA.

En una entrevista reciente con Politico, el CEO de OpenAI, Sam Altman, contrastó la postura de su empresa sobre la regulación con la de Anthropic, diciendo : “Creemos que el mundo debería aceptar que ocurran algunas cosas malas por los beneficios de esta tecnología”.

Al respecto, concluye Johnstone: “Estas personas son obviamente demasiado locas, malvadas e irresponsables para que se confíe en ellas con voz alguna en la determinación del futuro de la humanidad. Hay que detener a los oligarcas tecnológicos, por el bien de toda la vida terrestre”.

(Tomado de Misión Verdad)