10 de julio (Urgente.bo).- Un informe del Panel Científico Internacional Independiente sobre Inteligencia Artificial, creado por la Asamblea General de las Naciones Unidas, advierte que, si la IA se vuelve en una herramienta principal, la producción dependería de los dueños de los servidores de quienes posean el capital que está concentrado en un reducido número de empresas y países.
“Una gran concentración de mercado puede permitir a las empresas facturar importantes rentas. Si la IA acaba desplazando la producción desde el trabajo hacia el capital concentrado en unas pocas empresas y países, también podrían suscitarse preocupaciones fiscales en los países que dependen de los impuestos sobre el trabajo”
El documento aclara que la inteligencia artificial no va a gobernar por su cuenta; sin embargo, alerta sobre un creciente poder en las compañías que desarrollan los modelos más avanzados.
“El desarrollo de modelos de IA de frontera y de propósito general está dominado por un pequeño número de empresas privadas que cuentan con enormes recursos de computación”, afirma el documento. Además, señala que en 2021 el 91% de modelos de IA destacados eran del sector privado, por lo que muchas decisiones sobre datos, acceso a los modelos y medidas de seguridad quedan en manos de estas empresas.
También advierte que la cadena de suministro de la IA presenta una elevada concentración. En algunos casos, un solo proveedor controla más del 80% del mercado mundial, mientras que otros segmentos están dominados por apenas tres grandes operadores.
Concentración geográfica
La concentración geográfica de los operadores de IA también se convierte en un problema. El informe indica que Estados Unidos concentra el 75% de la capacidad computacional de los principales centros de IA del mundo, mientras que China posee el 15%, lo que deja al resto de los países con una participación casi nula.
Uno de los puntos que más llama la atención son las consecuencias políticas que puede tener esta concentración.
“La concentración de la capacidad de la IA, si se despliega más allá de esas protecciones, suscita inquietudes sobre sus repercusiones en la democracia y los derechos humanos, además de la posible captura del regulador y la falta de rendición de cuentas”, sostiene el Panel.
IA sesgada puede generar desigualdad
“Cada vez hay más indicios de que los sistemas de IA mal diseñados o insuficientemente probados pueden dar lugar a resultados injustos y discriminatorios”, resalta.
Los expertos también advierten que “los riesgos de la IA se distribuyen de forma desigual entre las poblaciones y los países, mientras que el desarrollo de la IA y la riqueza que generan, están muy concentrados”. Añaden que esta concentración concentrada en un reducido número de empresas y países, podría facilitar la injerencia de régimen autoritarios y socavar la rendición de cuentas democrática.
Frente a este panorama el Panel concluye que es imprescindible fortalecer la gobernanza de la inteligencia artificial para garantizar que sus beneficios lleguen a toda la sociedad y evitar que el control de esta tecnología quede concentrado en unos pocos actores con capacidad de influir en la economía, las políticas públicas y el desarrollo tecnológico global.
