KultureGeek Logiciels IA : le français Mistral lance une API de modération de contenu

IA : le français Mistral lance une API de modération de contenu

7 Nov. 2024 • 20:13
0

Le français Mistral, à qui l’on doit le LLM éponyme, vient de lancer une API dédiée à la modération de contenu, ce qui dans le contexte actuel de fake news et de thèses complotistes semble à priori une bonne idée. Cette API, qui « motorise » déjà la plateforme de chatbot Le Chat de Mistral, pourra être utilisée par les développeurs dans leurs propres applications. L’API repose sur le modèle Ministral 8B, un modèle conçu pour classifier du texte en plusieurs langues (dont l’anglais, le français et l’allemand) et dans neuf catégories, soit le contenu sexuel, la haine et discrimination, la violence et les menaces, les contenus dangereux et criminels, l’automutilation, la santé, les finances, le droit et les informations personnelles identifiables.

Mistral AI

« Au cours des derniers mois, nous avons constaté un engouement croissant dans l’industrie et la communauté de la recherche pour de nouveaux systèmes de modération basés sur l’IA, qui peuvent rendre la modération plus évolutive et robuste à travers diverses applications », précise Mistral dans un billet de blog. « Notre classificateur de modération de contenu s’appuie sur les catégories de politique les plus pertinentes pour des garde-fous efficaces et introduit une approche pragmatique de la sécurité des modèles en abordant les dommages générés par les modèles, tels que les conseils non qualifiés et les informations personnelles. »

Mistral reconnait toutefois que son modèle de modération est encore perfectible, mais que la société travaille avec ses clients « pour développer et partager des outils de modération évolutifs, légers et personnalisables ».

Les sujets liés à ces tags pourraient vous interesser

Laisser un commentaire

Sauvegarder mon pseudo et mon adresse e-mail pour la prochaine fois.

Quelques règles à respecter :
  • 1. Restez dans le sujet de l'article
  • 2. Respectez les autres lecteurs : pas de messages agressifs, vulgaires, haineux,…
  • 3. Relisez-vous avant de soumettre un commentaire : pas de langage SMS, et vérifiez l'orthographe avant de valider (les navigateurs soulignent les fautes).
  • 4. En cas d'erreur, faute d'orthographe, et/ou omission dans l'article , merci de nous contacter via la page Contact.

Nous nous réservons le droit de supprimer les commentaires qui ne respectent pas ces règles


Les derniers articles

Orange Bouygues Free SFR Logos Operateurs

Déploiement 4G et 5G : les données des opérateurs pour novembre 2024

3 Déc. 2024 • 20:56
0 Mobiles / Tablettes

Les données concernant le déploiement de la 4G et de la 5G en novembre 2024 par les opérateurs français sont maintenant...

Freebox Ultra vs Pop vs Player TV et Telecommande

Free met à jour ses Freebox pour améliorer le Wi-Fi

3 Déc. 2024 • 20:48
0 Matériel

Free annonce la disponibilité de la mise à jour 4.8.17 pour ses Freebox Révolution, Pop, Delta et Ultra. Elle vient notamment...

X-ble Shoulder

Kia et Hyundai dévoilent un exosquelette non motorisé permettant de soulager les tâches professionnelles répétitives

3 Déc. 2024 • 18:48
1 Science

Les firmes sud-coréennes Kia et Hyundai viennent d’annoncer le développement conjoint d’un exosquelette non motorisé, le...

Norauto Voiture Pneu

Piratage de Norauto : vol des données et numéros de pièces d’identité des clients

3 Déc. 2024 • 18:45
0 Internet

L’enseigne Norauto, spécialisée dans la maintenance automobile, a été touchée par un piratage sur plusieurs...

Lenovo console portable PC 1

Lenovo : les rendus officiels de la console portable Legion Go S ont fuité sur la toile

3 Déc. 2024 • 18:27
0 Matériel

Lenovo semble prêt à entrer à nouveau sur le marché des consoles portables de jeu avec son prochain PC-portable pour le gaming...

Les dernières actus Apple sur iPhoneAddict :

Comparateur

Recherchez le meilleur prix des produits Hi-tech

Recherche

Recherchez des articles sur le site