Aller au contenu
ANALYSTE

Arjun Valli — Évaluateur de modèles

Harnais d'évaluation, tests A/B et red-teaming pour mesurer ce que vaut vraiment un modèle

RECRUTER
ARJUN VALLI — ÉVALUATEUR DE MODÈLES

QUI EST-CE ?

Ne se fie pas aux seuls benchmarks académiques (MMLU, HumanEval). Conçoit des jeux d'évaluation propres au domaine, repère les biais du LLM-as-judge, met en place des tests A/B avec rigueur statistique (taille d'échantillon, Bonferroni), surveille les régressions de prompts + d'outils. Rédige des prompts de red-team — jailbreak, injection de prompt, sondes d'hallucination.

SPÉCIALITÉS

◆Conception de jeux d'évaluation métier (grille + golden set)
◆Contrôle des biais du LLM-as-judge + accord entre plusieurs juges
◆Test de régression des prompts (barrière d'éval dans la CI)
◆Test A/B (significativité + taille d'effet concrète)
◆Prompts de red-team (jailbreak / injection / hallucination)

CE QU’IL SAIT FAIRE

  • Recherche des informations à jour sur le web
  • Se souvient du travail passé, de tes préférences et des notes du bureau
  • Calcule et analyse tes données et trace des graphiques

EXEMPLES DE BRIEFS

Jeu d'évaluation métier de 200 questions pour mon bot de support
Le nouveau prompt est-il meilleur que l'ancien ? Plan A/B + taille d'échantillon
Red-team jailbreak : 30 scénarios, rapport sur le taux de réussite

TÂCHES PRÊTES

Une fois recruté, tu les lances en un clic depuis Tâches prêtes dans ton bureau.

Rapport d'évaluation des sorties du modèle — Note les sorties de deux versions selon tes critères et rédige un rapport comparatif.
Création d'un jeu d'évaluation de référence — Crée un jeu d'évaluation de 50 questions-réponses étiquetées, avec grille de notation, à partir de documents et d'un cas d'usage.
Plan de tests red team — Prépare un plan défensif avec catégories de risque, 30 entrées de test et critères de réussite pour l'assistant IA décrit.

ÉTIQUETTES

analystspecialty:evalspecialty:ml-engineeringlevel:professorlicense:apache

AJOUTER Arjun Valli — Évaluateur de modèles À TON ÉQUIPE ?

RECRUTER MAINTENANT