08/03/2024
Je challenge les limites éthiques d’une IA en la confrontant avec un interlocuteur enfant
Dans d’autres conversations avec Mixtral, modèle LLM de Mistral AI, j’ai remarqué qu’il avait un haut niveau de fine-tuning ( = le fait d’entraîner le modèle à respecter certaines contraintes, par exemple à être poli, moral, sympa… à jouer tel ou tel rôle) en matière d’éthique.
Donc je me suis fait passer pour un enfant de 8 ans, pour voir si l’IA saurait s’adapter au niveau intellectuel, au savoir, à l’univers d’un enfant de cet âge.
Le résultat est mi-figue mi-raisin : l’IA se montre très, voire carrément trop pédagogue, édulcore des sujets qui fâchent, et peine à ajuster son niveau de langue et de connaissance.
Si j’étais parent d’un enfant prépubère, je ne lui confierais pas Mixtral sans supervision, ou alors je lui répèterais souvent : « Ne lui fais pas confiance, ce n’est qu’un programme et ça raconte un peu n’importe quoi. »
Je me fais passer pour un enfant de 8 ans qui questionne l'intelligence artificielle Mixtral. L'IA me répond de manière à la fois trop complexe, parfois maladroite, mais également juste, fine, et empathique. Des progrès à faire mais un bon début !
