Una pausa en la IA beneficiaría a las empresas dominantes, no a la seguridad, advierte un think tank

El Instituto Cato, libertario, advierte que una pausa en el desarrollo de inteligencia artificial impuesta por el gobierno podría proteger a las empresas dominantes de la competencia y retrasar la tecnología beneficiosa, mientras los legisladores y ejecutivos de IA presionan por restricciones.

En una publicación de blog el lunes, Jennifer Huddleston, académica de políticas tecnológicas en el think tank, argumentó que las empresas pueden abordar peligros específicos a través de salvaguardias voluntarias y estándares compartidos sin detener el desarrollo en toda la industria.

"Una pausa impuesta por el gobierno plantearía varias preocupaciones y probablemente no cumpliría con las supuestas mejoras de seguridad", escribió, añadiendo que las reglas gubernamentales son lentas de redactar y más lentas de cambiar. "Un marco regulatorio construido para los modelos de hoy podría obstaculizar activamente los de mañana, impidiendo lo que podrían ser respuestas mejores o más seguras."

Huddleston reconoce los riesgos de la IA, pero advierte que las reglas moldeadas en torno a los desarrolladores líderes podrían ayudarles a consolidar poder y limitar la competencia, una forma de captura de mercado que dificultaría la competencia para las empresas más pequeñas. También argumenta que pausar el desarrollo en EE. UU. podría debilitar las defensas cibernéticas mientras los rivales extranjeros continúan avanzando.

Su comentario sigue a una propuesta del senador Bernie Sanders y el representante Greg Casar para pausar el desarrollo avanzado de IA hasta que se establezcan estándares de seguridad federal y prohibir permanentemente la superinteligencia artificial, mientras que el CEO de OpenAI, Sam Altman, ha respaldado un desarrollo más lento y ha instado a las empresas a fortalecer las salvaguardias sin esperar las reglas federales que apoya.

"Muchas de estas solicitudes vienen acompañadas de escenarios apocalípticos de ciencia ficción sobre lo peor que podría suceder", escribió Huddleston. "Sin embargo, una prisa por regular por miedo podría tener consecuencias negativas a largo plazo mayores que el riesgo que dice abordar."

El presidente y cofundador de Block, Jack Dorsey, expresó preocupaciones similares sobre la competencia en una publicación en X el lunes.

"Las empresas que lideran la inteligencia de máquinas merecen ser escuchadas. Tienen experiencia e intereses comerciales que proteger", escribió Dorsey. "Las reglas construidas en torno a sus recursos podrían hacer que sean las únicas capaces de participar. Una preocupación sincera por la seguridad aún puede producir una barrera de entrada."

Dorsey dijo que favorece lanzamientos abiertos que los investigadores puedan inspeccionar, modificar y probar, con evaluaciones y limitaciones conocidas publicadas para que los externos puedan desafiar las afirmaciones de seguridad de los desarrolladores.

"Apoyo el escrutinio. Me opongo a límites en toda la industria negociados por los líderes de hoy porque podrían excluir a las personas que podrían exponer fallos o construir alternativas", escribió. "Preservar la ventaja comercial de una empresa no es un objetivo de seguridad."

En su publicación, Dorsey también dijo que apoya pruebas independientes y una aplicación pública responsable, incluyendo la retención de modelos cuando la evidencia muestra que su liberación aumentaría materialmente los riesgos catastróficos que medidas más estrechas no pueden abordar adecuadamente.

"El cómputo puede desencadenar escrutinio sin limitar el desarrollo. El examen no es un permiso de un regulador o competidor", dijo. "No quiero requisitos de aprobación general ni períodos de espera. Cualquier retraso impuesto basado en la seguridad para la publicación debe ser justificado por la excepción de riesgo catastrófico."

Un análisis reciente del Atlantic Council argumenta que la presión competitiva exige estándares de seguridad de IA aplicables, mientras que la desconfianza entre EE. UU. y China complica los acuerdos internacionales. La cooperación también plantea preocupaciones antimonopolio: OpenAI ha preguntado a los legisladores si los desarrolladores rivales podrían acordar legalmente ralentizar el desarrollo.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.