Anthropic et Accenture s'associent pour l'évaluation intégrée de la sécurité de l'IA ; Co et Accenture investiront 1 milliard de dollars chacune dans la capacité d'évaluation de l'IA sur 5 ans

Anthropic a annoncé un partenariat avec Accenture (NYSE : ACN) pour mener une évaluation indépendante de ses modèles d'intelligence artificielle de pointe, chaque entreprise s'engageant à investir au moins 1 milliard de dollars dans cet effort au cours des cinq prochaines années.

Le partenariat sera dirigé par Faculty, l'unité commerciale d'IA d'Accenture. Les travaux comprendront l'évaluation et l'association des modèles d'Anthropic, la réalisation d'évaluations d'alignement et la mise à l'essai des garanties des modèles.

L'arrangement est structuré comme une « évaluation intégrée », un modèle dans lequel les évaluateurs travaillent au sein d'entreprises d'IA avec un accès comparable à celui d'un employé. Cela permet aux évaluateurs d'observer les modèles pendant la formation, de suivre les décisions régissant la manière dont les modèles sont créés et déployés, et d'interagir directement avec le personnel. Anthropic a annoncé qu'elle financerait les travaux d'Accenture directement dans le cadre de cet accord.

Anthropic a décrit l'évaluation intégrée comme étant distincte des pratiques d'évaluation externes existantes, notant qu'il n'existe actuellement aucune norme établie concernant les informations auxquelles les évaluateurs intégrés devraient accéder ou la manière dont les résultats devraient être communiqués. La société a indiqué qu'elle considérait que le financement à long terme de telles évaluations provenait idéalement de sources communes ou gouvernementales.

Le partenariat n'est pas exclusif. Anthropic a annoncé son intention d'annoncer d'autres évaluateurs dans les semaines à venir, et Accenture pourrait travailler avec d'autres développeurs d'IA dotés de capacités similaires. Anthropic a indiqué qu'elle était également en discussion avec le METR et d'autres évaluateurs à but non lucratif pour piloter des éléments d'évaluation intégrée en utilisant un financement distinct.

Anthropic a déclaré que le recours à des évaluateurs indépendants ne déchargeait pas l'entreprise de la responsabilité de la sécurité des modèles. Cette annonce a été présentée comme une première étape vers un engagement plus large visant à intégrer les évaluateurs au sein d'Anthropic, comme indiqué précédemment par le directeur général de la société.