Ejecutivo de OpenAI advierte que la ley de seguridad en inteligencia artificial de California podría ralentizar el avance.

En una reciente carta, Jason Kwon, director de estrategia de OpenAI, expresó que las regulaciones sobre inteligencia artificial deberían estar bajo la jurisdicción del gobierno federal, en lugar de ser gestionadas a través de diversas leyes estatales. Kwon argumenta que un nuevo proyecto de ley de seguridad de la IA que se está considerando en California podría frenar el progreso en el sector y provocar que algunas empresas abandonen el estado.

El ejecutivo sostiene que un conjunto de políticas de IA a nivel federal, en lugar de un sistema fragmentado entre estados, facilitará la innovación y permitirá a Estados Unidos liderar en la creación de estándares globales. Así, OpenAI se une a otros laboratorios de IA, desarrolladores y expertos en oposición respetuosa al SB 1047, agradeciendo la oportunidad de exponer sus principales inquietudes.

Esta carta fue dirigida al senador estatal Scott Wiener, quien propuso el SB 1047, conocido como la Ley para la Innovación Segura y Segura de Modelos de Inteligencia Artificial Fronteriza. Los defensores de la legislación, como Wiener, afirman que el proyecto establece estándares antes de la creación de modelos de IA más potentes, requisito que incluye pruebas de seguridad previas a su implementación, así como otras medidas preventivas. Adicionalmente, se busca proporcionar protección a los denunciantes en el ámbito laboral y otorgar al Fiscal General de California la autoridad para actuar legalmente en caso de que los modelos de IA causen daño. También se propone el establecimiento de un "cluster de computación en nube pública" denominado CalCompute.

En respuesta a la carta de OpenAI, Wiener subrayó que los requisitos establecidos en el proyecto también se aplican a las empresas que operan en California, independientemente de su lugar de origen. Por lo tanto, considera que la argumentación de OpenAI carece de sentido. También indicó que OpenAI no critica ninguna de las disposiciones del proyecto y concluye afirmando que el SB 1047 es una iniciativa razonable que simplemente solicita a los grandes laboratorios de IA que cumplan con las pruebas de seguridad para sus modelos, algo que ya se comprometieron a hacer.

Tras preocupaciones expresadas por políticos como Zoe Lofgren y Nancy Pelosi, así como por compañías como Anthropic y organizaciones como la Cámara de Comercio de California, el proyecto de ley avanzó en el proceso legislativo con varias enmiendas, que incluyen cambios como sustituir las sanciones penales por sanciones civiles para el perjurio y reducir las capacidades de aplicación por parte del Fiscal General antes de que se produzca un daño. Actualmente, el SB 1047 espera su votación final antes de ser enviado al gobernador Gavin Newsom.

• Inteligencia Artificial
• Regulaciones
• California