¿Debemos temer a la inteligencia artificial? California impulsa proyectos de ley para protegerse de posibles amenazas

SAN JOSÉ, CA.- California se encuentra a la vanguardia de la regulación de la inteligencia artificial (IA), con más de una docena de proyectos de ley aprobados por legisladores estatales y ahora a la espera de la firma del gobernador Gavin Newsom.

Estas propuestas legislativas buscan abordar una amplia gama de preocupaciones relacionadas con la IA, desde amenazas potenciales a la infraestructura crítica hasta la protección de los niños y la regulación del uso de la tecnología en diversos sectores.

Legislador de San Francisco advierte de amenazas de la IA

El Proyecto de Ley 1047 del Senado, presentado por el senador demócrata de San Francisco Scott Wiener, ha sido el más destacado y controvertido.

Esta legislación exige que los desarrolladores de modelos avanzados de IA realicen pruebas exhaustivas para detectar posibles amenazas a la infraestructura digital y física, así como la capacidad de ayudar en la fabricación de armas químicas, biológicas, radiactivas y nucleares.

Además, el proyecto de ley incluye protecciones para los denunciantes dentro de las empresas tecnológicas que deseen informar sobre estos riesgos.

Critican amenazas existenciales de la IA

Sin embargo, el enfoque en amenazas existenciales ha sido criticado por expertos como Alex Hanna, directora de investigación de Distributed AI Research, quien argumenta que la legislación no aborda adecuadamente problemas más comunes y urgentes, como la discriminación algorítmica.

Un proyecto de ley que buscaba ilegalizar el uso de IA discriminatoria, la AB 2930, fue significativamente modificado y finalmente archivado este año, dejando una brecha importante en la regulación.

Proyectos de ley sobre IA en California

Otros proyectos de ley aprobados incluyen medidas para:

• Exigir a las empresas que proporcionen herramientas gratuitas de detección de IA (SB 942)
• Obligar a las agencias gubernamentales a evaluar los riesgos del uso de IA generativa y revelar cuándo se utiliza (SB 896)
• Tipificar como delito la creación de pornografía infantil con IA generativa
• Requerir que las aplicaciones de redes sociales desactiven la selección algorítmica de contenido para menores de 18 años sin permiso parental (SB 976)
• Combatir los deepfakes en política y publicidad

Preocupan regulaciones a la industria de la IA

La industria tecnológica ha expresado preocupaciones sobre el impacto de estas regulaciones en la innovación y la competitividad.

Empresas como Google, Meta, Microsoft y OpenAI han ejercido presión contra varios de estos proyectos de ley.

Algunos miembros demócratas del Congreso, incluyendo la ex presidenta de la Cámara de Representantes Nancy Pelosi, han pedido al gobernador Newsom que vete el proyecto de ley de Wiener.

Aplicación de la IA en administración pública

El gobernador Newsom, quien recientemente ha mostrado un creciente interés en utilizar IA para resolver problemas estatales, como la falta de vivienda y el asesoramiento fiscal, aunque aún no ha indicado si firmará estos proyectos de ley.

Su decisión será crucial para determinar el futuro de la regulación de IA no solo en California, sino potencialmente en todo el país, dado el papel central del estado en el desarrollo de esta tecnología.

La tensión entre regular la IA y mantener la competitividad en el mercado global es evidente. Joep Meindertsma, CEO de Pause.ai, señala que esta dinámica es "el tema más tóxico en toda la situación", ya que los reguladores intentan equilibrar la protección contra los riesgos de la IA con el deseo de no frenar la innovación.

Asesora Unión Europea a legisladores de California

Mientras tanto, la Unión Europea ha estado asesorando a los legisladores de California para alinear sus regulaciones con la Ley de IA de la UE.

Gerard de Graaf, director de la oficina de la UE en San Francisco, elogió los esfuerzos de California, señalando que el estado ha logrado mucho en un año y demostrando un entendimiento profundo del tema.

Fracasan otros proyectos de ley sobre IA

A pesar de estos avances, algunos proyectos de ley importantes no prosperaron, como el AB 3211, que habría requerido el etiquetado del contenido generado por IA, y el ya mencionado AB 2930 contra la discriminación algorítmica.

En última instancia, la decisión del gobernador Newsom sobre estos proyectos de ley no solo determinará el futuro inmediato de la regulación de IA en California, sino que también podría establecer un precedente para otros estados y posiblemente influir en la política federal sobre IA.

Te puede interesar: