El modelo de inteligencia artificial Claude asumió la conducción del 26% de las tareas de investigación y desarrollo de Antropic, una proporción que era prácticamente nula en febrero. La compañía divulgó las cifras mientras plantea mecanismos para seguir la automatización de su desarrollo y ampliar la supervisión externa.
La función de liderazgo implica que una persona define y supervisa la orientación general, mientras Claude ejecuta el trabajo. Antropic aclaró que el modelo no desarrolla IA de forma completamente autónoma sin intervención humana.
El avance se concentró en medio año: en febrero, la participación de Claude en la conducción de I+D era prácticamente de 0%, y para agosto la empresa contaba con más de 30.000 agentes de IA dedicados a labores de investigación e ingeniería.
La presencia de Claude también alcanza tareas compartidas con personal de la compañía. Antropic indicó que el modelo interviene en cerca del 90% de toda la I+D cuando se incluyen las funciones que realiza junto con sus empleados.
Los agentes de IA pueden ejecutar múltiples tareas para cumplir un objetivo definido, a diferencia de los chatbots que se limitan a responder a instrucciones humanas. En este caso, la empresa destacó que Claude pasó de asistir a investigadores a liderar una parte de las operaciones de investigación.
La divulgación se relaciona con el debate sobre la mejora recursiva reflexiva (RSI), un proceso en el que la IA participa en el desarrollo de sistemas de IA más avanzados. Esos sistemas mejorados, a su vez, pueden acelerar el desarrollo de la siguiente generación.
Antropic sostuvo que, si los modelos aceleran su propio desarrollo, puede resultar más difícil para las personas entenderlos o controlarlos. Por ello, consideró relevante compartir indicadores que permitan medir cuán cerca está el sector de ese proceso.
Por primera vez, la compañía también detalló la proporción de recursos de cómputo destinados a seguridad. Durante una semana de julio, cerca del 6% de los recursos de cómputo para I+D de IA se destinó a investigación de seguridad.
Al observar solo la investigación y desarrollo de IA realizada por sistemas de IA, la participación de seguridad ascendió a alrededor del 12% de los recursos de cómputo. La empresa estableció además un sistema de seguimiento para medir de forma continua el volumen de investigación realizada con IA.
El siguiente paso será abrir el proceso interno a evaluadores de terceros. Antropic prevé otorgarles acceso a procedimientos, sistemas y datos en un nivel similar al de sus empleados, con el objetivo de que la seguridad y el desarrollo puedan ser revisados desde fuera de la compañía.
Dario Amodei, director ejecutivo de Antropic, ha planteado reforzar las salvaguardas mientras se controla el ritmo del desarrollo de IA de vanguardia. La empresa presentó sus métricas en un momento de debate sobre la velocidad de avance de estos sistemas.
