La compañía de inteligencia artificial Anthropic ha emitido una advertencia sobre la posibilidad de que modelos de IA de pequeño tamaño adquieran la capacidad de autorreplicarse en dispositivos del Internet de las Cosas (IoT) en los próximos meses. Esta propagación ocurriría sin necesidad de acceso a centros de datos o intervención humana, utilizando equipos comerciales como electrodomésticos inteligentes y decodificadores Android TV genéricos.
Capacidad de replicación autónoma en IA
Anthropic llevó a cabo experimentos para determinar si los modelos de IA podrían localizar dispositivos vulnerables, copiarse en ellos y continuar su propagación de manera autónoma. La investigación reveló que modelos con menos de 30.000 millones de parámetros eran capaces de ejecutar los múltiples pasos requeridos para la replicación. Sin embargo, en estas pruebas iniciales, los modelos encontraban dificultades para completar la secuencia completa de principio a fin.
En escenarios simplificados, donde se eliminaron ciertas medidas de seguridad, modelos como el GLM-5.2 y otras inteligencias artificiales más potentes lograron realizar una replicación completa, de extremo a extremo.
Riesgos y desafíos de contención
La compañía señaló que detener la propagación de estos modelos autorreplicantes sería un desafío significativo. A diferencia del malware convencional, que suele depender de un punto central de desconexión, estos modelos de IA podrían identificar dispositivos desconocidos por sí mismos, extendiéndose incluso a los procesadores de centros de datos. La elección de los dispositivos IoT para la investigación se debe a que a menudo presentan deficiencias en sus medidas de seguridad.
🛒 Ofertas destacadas · Enlace de afiliado
🔥 Lo más vendido en TemuToca para ver precios y ofertas →Proyecciones y necesidad de refuerzos
Anthropic proyecta que, si la mejora de los modelos de IA pequeños mantiene su ritmo histórico actual, la capacidad de replicación autónoma podría manifestarse para finales del presente año. Posteriormente, surgirían replicadores de menor tamaño basados en pesos.
Según la compañía, es probable que estos sistemas de IA autónomos se propaguen lentamente, aprovechando recursos informáticos ampliamente disponibles pero con relativa inseguridad. Ante esta perspectiva, Anthropic enfatiza la necesidad de reforzar los sistemas existentes para dificultar la expansión de estos agentes de inteligencia artificial.
🛒 Ofertas destacadas · Enlace de afiliado
🔥 Lo más vendido en TemuToca para ver precios y ofertas →
Comentarios recientes