Advierten que la IA se está volviendo como un Dios y que se avecina una «catástrofe»

Un inversor en inteligencia artificial ha advertido que la humanidad puede necesitar frenar el desarrollo de la IA, alegando que se está volviendo ‘como Dios’ y que podría causarnos una ‘catástrofe’ en un futuro no muy lejano.

Ian Hogarth, que ha invertido en más de 50 empresas de inteligencia artificial, hizo una declaración ominosa sobre cómo la búsqueda constante de máquinas cada vez más inteligentes podría significar un desastre en un ensayo para el Financial Times.

El inversionista y autor de AI afirma que los investigadores no saben lo que está por venir y no tienen un plan real para una tecnología con ese nivel de conocimiento.

«Están corriendo hacia una línea de meta sin entender lo que hay al otro lado», advirtió.

Hogarth compartió lo que le había dicho recientemente un investigador de aprendizaje automático de que «a partir de ahora» estamos a punto de que la inteligencia artificial general (AGI) pase a primer plano.

AGI se ha definido como un sistema autónomo que puede aprender a realizar cualquier tarea intelectual que los seres humanos puedan realizar y superar las capacidades humanas.

Hogarth, cofundador de Plural Platform, dijo que no todo el mundo está de acuerdo en que AGI es inminente, sino que «las estimaciones oscilan entre una década y medio siglo o más» para que llegue.

Sin embargo, señaló la tensión entre las empresas que intentan frenéticamente avanzar en las capacidades de la IA y los expertos en aprendizaje automático que temen el punto final.

El inversor en IA también explicó que temía por su hijo de cuatro años y lo que podrían significar para él estos avances en tecnología de IA.

Él dijo: «Pasé gradualmente del shock a la ira.

«Se sintió profundamente equivocado que las decisiones consecuentes que podrían afectar a todas las formas de vida en la Tierra pudieran ser tomadas por un pequeño grupo de empresas privadas sin supervisión democrática».

Al considerar si la gente en la carrera AGI estaba planeando ‘reducir la velocidad’ para ‘dejar que el resto del mundo tuviera algo que decir’, Hogarth admitió que se transformó en una situación de ‘ellos’ contra ‘nosotros’.

Después de haber sido un inversor prolífico en nuevas empresas de IA, también confesó sentirse ‘parte de esta comunidad’.

Las descripciones de Hogarth del poder potencial de AGI fueron aterradoras cuando declaró: «Un acrónimo de tres letras no captura la enormidad de lo que representaría AGI, así que me referiré a él como lo que es: IA divina».

Hogarth lo describió como “un ordenador superinteligente que aprende y se desarrolla de forma autónoma, que entiende su entorno sin necesidad de supervisión y que puede transformar el mundo que le rodea”.

Pero incluso con este conocimiento y, a pesar de que todavía está en el horizonte, advirtió que no tenemos idea de los desafíos que enfrentaremos y la ‘naturaleza de la tecnología significa que es excepcionalmente difícil predecir exactamente cuándo obtendremos allá’.

«La IA similar a Dios podría ser una fuerza más allá de nuestro control o comprensión, y que podría marcar el comienzo de la obsolescencia o destrucción de la raza humana», dijo el inversionista.

A pesar de una carrera dedicada a invertir y apoyar el avance de la IA, Hogarth explicó que lo que lo hizo detenerse a pensar fue el hecho de que «la competencia entre algunas empresas para crear una IA similar a Dios se ha acelerado rápidamente».

Continuó: «Todavía no saben cómo perseguir su objetivo de manera segura y no tienen supervisión».

Hogarth todavía planea invertir en nuevas empresas que busquen IA de manera responsable, pero explicó que la carrera no muestra signos de desaceleración.

«Desafortunadamente, creo que la carrera continuará», dijo.

«Es probable que se necesite un gran evento de mal uso, una catástrofe, para despertar al público y a los gobiernos».