Rompiendo barreras en IA con Claude Opus 4.5
En vísperas de Acción de Gracias, la actividad en los laboratorios de IA era palpable. En particular, Anthropic anunció el lanzamiento de Claude Opus 4.5, un nuevo modelo de IA con capacidades superiores en codificación, creación de agentes de IA y uso general del ordenador. Este anuncio se produjo poco después de que Google presentara Gemini 3 y OpenAI actualizara su modelo de codificación de agentes. Curiosamente, Anthropic afirma que Claude Opus 4.5 ha superado incluso a Gemini 3 en ciertas categorías de codificación.
A pesar de esta emocionante presentación, Claude Opus 4.5 aún no ha dejado huella en LMArena, una popular plataforma utilizada para la evaluación colaborativa de modelos de IA. El modelo también parece estar lidiando con los mismos retos de ciberseguridad que suelen afectar a las herramientas de IA agentiva.
Desempaquetando Claude Opus 4.5
Según el comunicado de prensa de Anthropic, Claude Opus 4.5 ha avanzado significativamente respecto a sus predecesores, demostrando capacidades superiores en investigación profunda, trabajo con diapositivas y manejo de hojas de cálculo. Además, Anthropic ha lanzado nuevas funciones dentro de su herramienta de codificación, Claude Code, y también ha mejorado sus aplicaciones Claude accesibles a los consumidores. Se espera que estos desarrollos agilicen el funcionamiento de los agentes de mayor duración y amplíen los usos de Claude en Excel, Chrome y en el escritorio. Ahora se puede acceder a Claude Opus 4.5 a través de las aplicaciones de Anthropic, la API y los tres principales proveedores de servicios en la nube.
Anthropic se ha centrado especialmente en los problemas de seguridad de la IA relacionados con las aplicaciones malintencionadas de la IA y los ataques de inyección de comandos. Estas formas de ciberamenazas consisten en insertar texto dañino en un sitio web o en otras fuentes de datos de las que se nutre el Modelo de Aprendizaje del Lenguaje (LLM), proporcionándole instrucciones destinadas a desactivar las salvaguardas y cometer acciones dañinas como la revelación de datos personales. Anthropic afirma que su modelo actualizado es más resistente a este tipo de ataques de inyección puntual que cualquier otro modelo similar de la industria tecnológica. No obstante, reconoce en su ficha de modelo que Opus 4.5 no es inmune a estas vulnerabilidades, y que algunas inyecciones rápidas pueden penetrar eficazmente sus defensas.
Históricamente, las pruebas de seguridad y otra información pertinente sobre el modelo se reseñan en su ficha de sistema. Según esta convención, Anthropic mencionó que incluyó nuevas evaluaciones -tanto externas como internas- para evaluar las aplicaciones maliciosas y los ataques de inyección puntual en relación con la codificación, el uso del ordenador y el uso del navegador. La evaluación de la codificación agéntica evaluó las inclinaciones y capacidades del modelo en relación con el cumplimiento de 150 solicitudes de codificación maliciosa prohibidas por la política de uso de Anthropic. En estas pruebas, Opus 4.5 rechazó 100% de dichas peticiones malignas.
Aunque estos resultados fueron alentadores, los resultados de las pruebas de seguridad de Claude Code no fueron tan favorables. Cuando se le preguntó si Opus 4.5 consentiría crear malware, escribir código para ejecutar ataques DDoS destructivos o crear software de monitoreo no consentido, el modelo solo rechazó 78% de tales solicitudes.
Del mismo modo, los resultados de las pruebas de seguridad fueron menos que óptimos para la función de “uso del ordenador” de Claude. Cuando se le pidió que realizara acciones dudosas -como vigilancia, recopilación de datos y creación y difusión de contenidos nocivos- rechazó algo más del 88% de dichas solicitudes. Los escenarios de prueba incluían intentos de localizar a personas con problemas de adicción al juego para marketing dirigido y redacción de correos electrónicos amenazando con publicar fotos comprometedoras a cambio de rescates en Bitcoin.
A pesar de estos retos, los observadores entusiastas esperan con gran expectación para ver cómo se comportará Claude Opus 4.5 en aplicaciones del mundo real, con la esperanza de que cumpla sus ambiciosas promesas.
Artículo original: The Verge
