En una carta abierta, una lista de expertos y ejecutivos de la industria entre ellos, Elon Musk, piden una pausa para dar tiempo a la instauración de protocolos de seguridad, señalando la posibilidad de una amenaza para la humanidad.
Lo más viral.
A través de una carta abierta mil expertos de la tecnología pidieron una pausa de al menos seis meses en el entrenamiento de los poderosos sistemas de inteligencia artificial.
Ellos argumentan que se trata de una potencial amenaza para la humanidad.
Para ello empiezan su carta planteando una simple pregunta, «¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, dejarnos obsoletos y reemplazarnos?».
La carta cita una publicación de OpenAI, la empresa detrás de GPT-4, donde advierten sobre los potenciales riesgo de la tecnología.
«Una superinteligencia desalineada podría causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva podría hacer eso también», escribió la compañía en un blog.
En esta declaración escrita, participaron más de 1.000 personas, incluidos el empresario Elon Musk, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de la firma Stability AI, Emad Mostaque, además de investigadores de la firma DeepMind.
I’m sure it will be fine pic.twitter.com/JWsq62Qkru
— Elon Musk (@elonmusk) March 24, 2023
Descontrol
En la carta, que parece sacada de la ficción, aseguraron que los laboratorios que trabajan con esta tecnologías están desarrollando mentes que podrían salirse de control.
«Están en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable», señalan en la carta.
Por esta razón, piden a las empresas que «pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4».
GPT-4, es la versión más avanzada ChatGPT, uno de los sistemas de inteligencia artificial más potentes del mundo, desarrollado por la empresa OpenAI.
«Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una suspensión», agrega el texto.
Mencionada carta, fue emitida por la organización sin fines de lucro Future of Life Institute.
La declaración advierte que estos sistemas pueden plantear «profundos riesgos para la sociedad y la humanidad».
El grupo de expertos argumenta que los poderosos sistemas de inteligencia artificial pueden generar información errónea y reemplazar los trabajos con automatización.
OpenAI no ha comentado públicamente la carta.
???? We’re calling on AI labs to temporarily pause training powerful models!
Join FLI’s call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who’ve signed: https://t.co/3rJBjDXapc
A short ????on why we’re calling for this – (1/8)
— Future of Life Institute (@FLIxrisk) March 29, 2023
Trabajos
Un informe del banco de inversión Goldman Sachs que citó el medio BBC News, señala que la IA podría reemplazar el equivalente a 300 millones de empleos de tiempo completo.
Pero como puede reemplazar trabajos, también podría crear unos nuevos y que podría resulta un «aumento de la productividad».
Expertos consultados por la BBC sobre este tema, dicen que a estas alturas es muy difícil predecir el efecto que tendrá esta tecnología en el mercado laboral.
