13 de septiembre (Urgente.bo).- Investigadores que trabajan en la tecnología de la Inteligencia Artificial (IA) se mostraron preocupados debido al rápido avance de esta tecnología, debido a la posibilidad de que sistemas cada vez más desarrollados puedan llegar a mejorarse a sí mismos y escapen del control humano, así lo informó un artículo del portal DW.
El investigador en IA Jacob Coxon publicó un mensaje en X en el que señala que “quienes desarrollan IA creen seriamente que podría aniquilarnos a todos antes de que acabe la década" y agregó que "ninguna otra actividad humana tiene un peligro potencial tal".
La preocupación se centra en la denominada “automejora recursiva”, un proceso mediante el cual una IA podría utilizar sus propias capacidades para acelerar el desarrollo de sistemas cada vez más avanzados.
Rishib Jain dejó su puesto como investigador de IA en Google DeepMind. Él llegó a la conclusión de que los desarrolladores podrían estar perdiendo progresivamente el control al utilizar la propia inteligencia artificial para acelerar la creación de nuevos modelos.
Jain consideraba que mantener a los seres humanos involucrados en el proceso sería fundamental para conservar el control sobre la tecnología. “El progreso de la IA va en aumento. Y a medida que se vuelve más capaz, plantea más riesgos”, explicó.
Nate Soares, informático de la organización de investigación MIRA y coautor del libro If Anybody Builds It, Everybody Dies (Si alguien lo construye, todos morirán), afirmó que la idea de una superinteligencia que se mejora a sí misma está comenzando a parecer una posibilidad real.
Algunos investigadores argumentan que esta tecnología podría conllevar riesgos impredecibles. Por ejemplo, modelos sofisticados de IA pueden perseguir objetivos de una manera que se desvía de las intenciones humanas; los investigadores de seguridad de IA hablan del "problema de alineación". En pocas palabras, para cumplir la instrucción "gana el torneo de ajedrez" se podría también, en teoría, eliminar a los demás participantes.
Otro investigador y excolega de Coxon, Evan Hubinger, quien es el líder de equipo para pruebas de estrés de alineación de Anthropic respaldó a Caxon: "Jacob tiene razón: ¡creemos seriamente que la IA podría matar a todos los humanos! Personalmente, estimo que la probabilidad superará el diez por ciento en la próxima década".
Hubinger también señaló que la IA podría empezar a resistir su apagado, no por una mala intención, sino porque entonces ya no podría alcanzar su objetivo programado.
Posible histeria exagerada
A pesar de estos escenarios, otros expertos consideran que tales escenarios son “extremadamente improbables” Uno de los críticos más destacados de los llamados "Doomers de la IA" es Yann LeCun, científico jefe de Meta. En octubre de 2024, describió tales consideraciones como "un completo disparate".
Otros expertos también señalan que el desarrollo de estos sistemas requiere enormes cantidades de potencia de cálculo, energía, datos e infraestructuras. Una IA no puede simplemente conquistar el mundo "de Internet".
