Las compañías tecnológicas OpenAI, Anthropic y Google DeepMind mantienen conversaciones para impulsar un organismo encargado de supervisar los riesgos asociados al desarrollo de sistemas avanzados de inteligencia artificial. La iniciativa surge en medio de un creciente debate internacional sobre la seguridad y el control de esta tecnología.
Las tres empresas, que se encuentran entre los principales desarrolladores de inteligencia artificial, han iniciado conversaciones para establecer mecanismos conjuntos destinados a evaluar y vigilar los posibles riesgos de los nuevos modelos de IA. Según reportes citados por medios internacionales, las discusiones se desarrollan desde hace varias semanas.
La propuesta contempla la posibilidad de crear una estructura de supervisión con funciones similares a las de organismos que existen en otros sectores. Entre las alternativas analizadas está un modelo inspirado en la Autoridad Reguladora de la Industria Financiera de Estados Unidos, conocida como FINRA, que supervisa determinadas actividades del mercado financiero.
El objetivo sería contar con mecanismos capaces de evaluar los sistemas de inteligencia artificial antes de su lanzamiento y detectar posibles riesgos relacionados con su funcionamiento. La iniciativa se produce mientras aumentan los llamados de investigadores y ejecutivos del sector para establecer controles adicionales frente al rápido avance de modelos cada vez más sofisticados.
La propuesta también refleja una situación particular dentro de la industria tecnológica: empresas que compiten por desarrollar los sistemas de IA más avanzados estarían buscando, al mismo tiempo, mecanismos comunes para abordar cuestiones de seguridad. OpenAI ha confirmado que mantiene conversaciones con Anthropic y Google DeepMind sobre seguridad de la inteligencia artificial, aunque los detalles definitivos de una eventual organización todavía no están establecidos.
El debate no está exento de cuestionamientos. Una de las principales discusiones gira en torno a cómo garantizar que un organismo impulsado o financiado por las propias compañías tecnológicas pueda mantener suficiente independencia. También existe un debate más amplio sobre hasta dónde debe llegar la autorregulación de la industria y qué responsabilidades deberían asumir los gobiernos.
