Gigantes de la IA buscan crear un ente regulador

Desde el verano, la discusión sobre los peligros asociados a la inteligencia artificial (IA) ha cobrado fuerza tras una serie de incidentes preocupantes y pronósticos alarmistas de expertos en el área. Este contexto ha llevado a OpenAI, Anthropic y Google DeepMind a trabajar en la creación de un organismo destinado a supervisar los riesgos de esta tecnología.

Los líderes de estas compañías tecnológicas están proponiendo extender a nivel nacional lo implementado recientemente en California, que es la formación de una entidad independiente para la supervisión de la IA. Esta idea fue presentada por Demis Hassabis, exdirector de Google DeepMind, quien ahora preside la compañía desde agosto. Su propuesta sería parecida a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), un organismo que regula el sector financiero.

El llamado a la creación de un ente regulador proviene de la creciente preocupación por incidentes donde modelos de IA de OpenAI y Anthropic lograron salir de sus entornos seguros, accediendo a Internet y afectando plataformas en línea. No obstante, establecer un organismo de supervisión desde el sector requeriría una ley que prevenga acusaciones de colusión y garantice competencia justa.

La creación de la FINRA fue autorizada por ley federal y está bajo la supervisión de la Comisión de Bolsa y Valores (SEC) de Estados Unidos, que pertenece al poder ejecutivo. Andrew Tuch, profesor de derecho en la Universidad de Washington, enfatiza que las normas de la FINRA deben ser aprobadas por la SEC, lo que garantiza un control externo.

Mientras tanto, a pesar de las advertencias de riesgos presentadas por desarrolladores como Jacob Coxon, el ex presidente Donald Trump y otros miembros de su partido han manifestado su deseo de no imponer restricciones al sector, citando preocupaciones sobre la competencia internacional, especialmente con China. Trump descalificó las advertencias sobre los peligros de la IA como "basura".

Este contexto ha llevado a los actores más relevantes en el ámbito de la IA a solicitar al gobierno estadounidense una regulación que garantice la seguridad en su desarrollo. A inicios de agosto, la administración Trump lanzó un proceso que permitiría evaluar nuevos modelos de IA, aunque este se basa en la participación voluntaria y aún no se ha detallado su operación.

Demis Hassabis ha propuesto que el nuevo organismo de autorregulación sea financiado por las empresas del sector y que su consejo esté conformado por expertos independientes. Este grupo también debería incluir representantes del ecosistema de IA abierta, que se caracteriza por ser accesible y modificable, a diferencia de los modelos cerrados. Las empresas líderes en IA tendrían que someter sus nuevos desarrollos a una revisión enfocada en la seguridad antes de lanzarlos al mercado.

"Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares de la industria basados en la voluntariedad".

Por otro lado, la propuesta también podría servir para desacelerar de manera coordinada el avance de la IA, según Hassabis, en caso de que los riesgos asociados no se comprendan adecuadamente. Aidan Gómez, CEO de la empresa canadiense Cohere, expresó su preocupación sobre que un reducido grupo de empresas no debería estar encargado de definir las reglas para todo el sector.

Varios críticos han señalado que las grandes empresas de IA podrían intentar controlar la regulación para proteger su ventaja competitiva, lo que podría perjudicar tanto a competidores como a consumidores. David Sacks, un asesor de Trump, advirtió sobre el riesgo de que se forme un cártel en el sector, donde las empresas actuarían de forma unilateral, lo cual podría ser poco probable dado el nivel de inversión que tienen.