Le Serment d'Hippocrate du Data Scientist

Principe #1 - Interroger la finalité du projet, sa légalité et son possible impact social et environnemental.

Principe #2 - Veiller à ce que les métriques à optimiser soient pertinentes et ne conduisent pas le projet à avoir un impact social et environnemental négatif.

Principe #3 - Faire mon possible pour que mes conditions de travail, en particulier le temps de travail qui m’est alloué, me permettent de mener avec les données un travail honnête et le plus scientifique possible.

Principe #4 - Ne pas collecter ou utiliser de données inutilement personnelles et/ou sensibles.

Principe #5 - Ce que les données que je collecte ou dont je dispose soient exactes et que je comprenne bien leur signification. pour cela, je m’engage à retracer autant que possible l'origine et le processus de création des données, ainsi que les éventuelles modifications qu'elles ont subies.

Principe #6 - Ne pas collecter des données dont je peux raisonnablement estimer qu’elles ne seront pas utiles par rapport aux besoins du projet.

Principe #7 - Ne pas négliger des données potentiellement utiles au projet, dans la limite des principes éthiques, afin de ne pas mettre en péril la robustesse et la pertinence des résultats de leur traitement.

Principe #8 - Veiller à ce que les données dont j’ai la responsabilité soient gérées et stockées en sécurité.

Principe #9 - communiquer, ou sinon rappeler aux équipes compétentes, la nécessité de communiquer auprès des personnes concernées, l’usage qui sera fait de leurs données, de la façon la plus claire, explicite et transparente possible.

Principe #10 - Veiller à ce que le consentement des personnes dont je collecte les données soit obtenu dans des conditions loyales et transparentes pour eux. en cas de changements ultérieurs des conditions d'utilisation, veiller à ce que ces changements leur soient aussi communiqués clairement et efficacement, et ré-obtenir leur consentement dans des conditions loyales, explicites et transparentes pour eux.

Principe #11 - Veiller, lorsque j'élimine ou j'impute des valeurs manquantes ou aberrantes, à ne pas introduire de biais supplémentaires qui mèneraient à des résultats partiels ou faux. pour cela :

• je regarde la distribution des données à ma disposition ;
• je m'interroge sur leurs potentiels biais, notamment le biais de sélection ;
• je justifie et documente mon nettoyage.

Principe #12 - Ne pas créer de données caractéristiques (“features”) qui équivaudraient à des données personnelles sensibles si leur usage peut entraîner des effets discriminatoires illégaux ou illégitimes (exemples : code postal, nom de famille, ...).

Principe #13 - Déterminer le meilleur compromis entre la performance et l'interprétabilité sur l’ensemble des modèles à disposition et autant que possible, opter pour les modèles les plus simples à expliquer aux personnes concernées (un modèle performant permettra de diminuer les risques d’erreur tandis qu’un modèle interprétable permettra de mieux justifier les résultats du modèle).

Principe #14 - Paramétrer et tester plusieurs modèles en ne m’arrêtant pas au premier modèle et paramétrage qui me semblent bons.

Principe #15 - Veiller à ce que le responsable du système puisse autant que possible fournir une explication des résultats du modèle algorithmique aux personnes concernées et ce d’autant plus s’il est légalement tenu d’expliquer ces décisions.

Principe #16 - Mesurer le biais et la variance pour contrôler l'exactitude et la dispersion du résultat et documenter les métriques d'erreur retenues.

Principe #17 - Garder un esprit critique par rapport aux segments issus d'un algorithme de groupement (“clustering”).

Principe #18 - Prévoir et prévenir les dérives possibles dans le temps du modèle par rapport aux données, de façon à éviter l'apparition de biais supplémentaires.

Principe #19 - Veiller à regarder les résultats dans leur ensemble (non-partialité) et à ne pas céder à un "biais de confirmation" (qui consisterait à voir ce à quoi je m'attendais).

Principe #20 - Vérifier l’absence de discrimination : vérifier si le modèle s’applique avec la même pertinence sur des segments potentiellement discriminatoires de la population traitée.

Principe #21 - Communiquer ma démarche et mes résultats (ou leur absence) à mon client / mon équipe :

• en ne les dénaturant et en ne les dissimulant pas, notamment en choisissant une visualisation fidèle à l’ensemble des résultats
• en garantissant la compréhension la plus exacte possible, en optant pour les visualisations et explications les plus parlantes, en précisant les précautions d’usage à prendre avec ces résultats et leur interprétation.

Principe #22 - Donner l'alerte si je constate une utilisation frauduleuse, illégale, illégitime, discriminatoire ou non-éthique des résultats.

Principe #23 - Veiller à ce que les données ne soient pas conservées plus longtemps que ce qui est nécessaire pour l’application telle que définie pendant le projet.

Principe #24 - documenter au maximum les données et leurs traitements afin d’en garantir l’explicabilité et la reproductibilité.

Principe #25 - Anticiper les usages qui pourraient être faits de mon travail à moyen et long terme et faire mon possible pour garder sur lui un droit de regard et une possibilité d’action.