La empresa estadounidense Anthropic denunció ante el Senado y la Casa Blanca que operadores vinculados a Alibaba crearon cuentas falsas para extraer capacidades de su modelo Claude. Paralelamente, un juicio en California reveló que Anthropic utilizó libros obtenidos ilegalmente para entrenar sus sistemas.
Esta semana se conoció una carta de Anthropic, la empresa detrás de Claude, dirigida al Senado y a la Casa Blanca de Estados Unidos. En el documento, la compañía denuncia que operadores vinculados a Alibaba, dueños de la inteligencia artificial Qwen, crearon unas 25.000 cuentas falsas que realizaron 28,8 millones de consultas a Claude entre abril y junio. Según Anthropic, esto formó parte de un plan para destilar sus modelos de IA. En febrero, la empresa ya había acusado de acciones similares a otros tres laboratorios chinos, incluido DeepSeek.
La destilación, según la denuncia, consiste en extraer capacidades de un modelo de IA para crear uno propio, evitando los costos de desarrollo desde cero. Anthropic sostiene que esta práctica representa una intromisión contra la industria estadounidense de IA.
Por otra parte, en el marco de la causa judicial “Bartz contra Anthropic” en un tribunal federal de California, se reveló que la empresa descargó ilegalmente aproximadamente siete millones de libros de sitios piratas para entrenar a Claude. Para evitar el juicio, Anthropic acordó pagar 1.500 millones de dólares a decenas de miles de autores y editoriales. El juez del caso determinó que entrenar un modelo con un libro comprado legalmente puede considerarse uso legítimo, aunque la mayoría de los autores y editoriales rechazan esa interpretación de la propiedad intelectual.
La discusión sobre el uso de contenido protegido no es exclusiva de Anthropic. La semana pasada, casi 400 diarios locales de Estados Unidos demandaron a OpenAI y Microsoft por copiar sus noticias sin permiso ni pago para entrenar ChatGPT y Copilot.
Las empresas chinas, por su parte, compiten con modelos de pesos abiertos, gratuitos y descargables. Esta semana se viralizó un video de 2023 de Dario Amodei, CEO de Anthropic, advirtiendo en el Senado sobre los peligros del acceso abierto a modelos de IA. Amodei es el mismo cuyos modelos Fable y Mythos estuvieron bloqueados por una orden de exportación estadounidense por seguridad nacional.
Satya Nadella, CEO de Microsoft, ha señalado que si una empresa no puede integrar su conocimiento en modelos que pueda controlar, pierde soberanía y regala su valor. Asimismo, Palantir, la empresa de Peter Thiel, publicó un manifiesto sobre soberanía de IA, afirmando que quien no posee sus modelos y datos no controla sus medios de producción.