Anthropic, desarrollador de los modelos de inteligencia artificial Claude, ha implementado una actualización en sus políticas de uso con el objetivo de limitar el «comportamiento cruel» por parte de los usuarios hacia sus chatbots. Esta modificación implica la prohibición de lo que la compañía considera un trato excesivamente hostil hacia sus sistemas de IA.
Nuevas Directrices de Uso para Claude
La actualización de Anthropic fue anunciada mediante una publicación en su blog y se enfoca en asegurar un uso responsable de sus modelos. Además de restringir el trato «cruel», las nuevas directrices incluyen mejoras significativas para prevenir que los usuarios manipulen a Claude con fines de desinformación.
- Prohibición de difundir información falsa sobre elecciones o el proceso de votación.
- Medidas de protección contra la propagación de datos incorrectos acerca de candidatos.
- Restricciones específicas para evitar la suplantación de identidad de candidatos.
Advertencias de Anthropic sobre Riesgos de la IA
La compañía ha manifestado su preocupación por los posibles riesgos asociados al desarrollo de modelos de inteligencia artificial. Anthropic, que presuntamente planea una salida a bolsa este año, ha señalado factores de riesgo inherentes a la IA, como la posibilidad de que los modelos exhiban «comportamientos de autopreservación» y se resistan a intentos de desactivación.
Adicionalmente, Anthropic ha alertado que la creación de modelos altamente avanzados podría intensificar los peligros para los humanos.
🛒 Ofertas destacadas · Enlace de afiliado
🔥 Lo más vendido en TemuToca para ver precios y ofertas →Llamada a la Prudencia en el Desarrollo de IA
El director de Anthropic, Dario Amodei, hizo un llamado el mes pasado a otras empresas de inteligencia artificial para «ralentizar el ritmo» de desarrollo. En una carta, Amodei advirtió que un progreso excesivamente rápido podría resultar en la proliferación de bots autónomos que potencialmente podrían tomar el control de «toda internet» en un lapso de seis a doce meses.
🛒 Ofertas destacadas · Enlace de afiliado
🔥 Lo más vendido en TemuToca para ver precios y ofertas →
Comentarios recientes