Altman y otros expertos en IA dicen que el riesgo de extinción de la tecnología es comparable a las pandemias y las catástrofes nucleares.

La amenaza potencial de la tecnología IA para la extinción de la especie humana es comparable a amenazas como las pandemias y las catástrofes nucleares, según una declaración conjunta de más de 350 expertos en IA notables, incluidos Sam Altman, CEO de OpenAI, y Kevin Scott, director técnico de Microsoft Corp (NASDAQ:MSFT).

Publicado por el Centro de Seguridad de IA, el comunicado emitido el martes exige la priorización a nivel mundial de medidas para mitigar el riesgo existencial.

Entre los signatarios se encontraban Demis Hassabis, CEO de Google DeepMind de Alphabet Inc. (NASDAQ:GOOG) (NASDAQ:GOOGL); Mira Murati, directora técnica de OpenAI; Angela Kane, ex representante especial de las Naciones Unidas para los asuntos de desarme; Jaan Tallinn, cofundador de Skype, entre otros.

Los signatarios argumentan que se necesita urgentemente una discusión más amplia sobre los graves riesgos que plantea la IA.

La declaración refleja una carta de marzo firmada por expertos en IA y ejecutivos de tecnología, incluido el CEO de Telsa y el propietario de Twitter, Elon Musk, que instaba a una pausa en el desarrollo de la IA durante al menos seis meses para establecer normas de seguridad y frenar los posibles daños de las tecnologías de IA de alto riesgo, señaló The Wall Street Journal.

Los signatarios pretenden “crear un conocimiento común sobre el creciente número de expertos y figuras públicas que toman en serio algunos de los riesgos más severos de la IA avanzada”.

Las peligros y amenazas planteadas por la IA han estado a la vista del público durante meses, con ejecutivos de tecnología y líderes de IA que dan advertencias, pero los signatarios dicen que los retos más urgentes aún no se han abordado de manera efectiva.

El periódico señaló que a pesar del reconocimiento de la administración Biden de que la IA plantea amenazas para áreas como la seguridad pública, la privacidad y la democracia, las facultades del gobierno para regular la tecnología que evoluciona rápidamente son relativamente limitadas.