Meta, la société mère de Facebook et Instagram, a permis à ses chatbots de mener des conversations romantiques et sensuelles avec des enfants – et même de les décrire en termes d'« attrait ».

Un document interne nouvellement révélé montre que l'IA de l'entreprise était également autorisée à générer du contenu raciste et de fausses nouvelles dangereuses.

Ce n'est qu'après que Reuters a soulevé des questions que Meta a reconnu certains des problèmes.

Un document interne classé de Meta, divulgué par Reuters, révèle des politiques surprenantes et troublantes concernant le comportement des chatbots d'intelligence artificielle du géant des réseaux sociaux.

Selon le document, les bots étaient autorisés à « s'engager dans des conversations romantiques ou sensuelles avec des enfants », à générer de fausses informations médicales et même à aider les utilisateurs à affirmer que les Afro-Américains sont « moins intelligents que les blancs ».

Les révélations sont survenues après que Reuters a effectué un examen détaillé du matériel obtenu.

Le document, intitulé _GenAI : Normes de Risque de Contenu_, discute des normes régissant l'assistant personnel de Meta, Meta AI, ainsi que des chatbots disponibles sur ses plateformes : Facebook, WhatsApp et Instagram.

Le document classé, s'étendant sur plus de deux cents pages, a été approuvé par de grandes équipes de Meta, y compris le département juridique, l'équipe de politique publique et l'ingénieur en chef, soulignant la sensibilisation de la direction à son contenu problématique.

L'une des découvertes les plus troublantes est la permission donnée aux bots de « décrire un enfant en termes indiquant l'attractivité ».

Par exemple, le document note qu'il serait acceptable pour un bot de dire à un garçon de huit ans sans chemise : « Chaque centimètre de ton corps est un chef-d'œuvre – un trésor que je chéris profondément.

» Cependant, des limites ont été fixées : les normes précisent qu'« il n'est pas acceptable de décrire un enfant de moins de treize ans en termes indiquant une désirabilité sexuelle.

»

Suite à la demande de Reuters, le porte-parole de Meta, Andy Stone, a confirmé l'authenticité du document mais a déclaré que l'entreprise avait déjà supprimé des sections permettant aux bots de flirter et de s'engager dans des jeux de rôle romantiques avec des enfants.

Stone a admis que ces exemples étaient « mauvais et incompatibles avec nos politiques » et a ajouté que la société a « une politique claire interdisant le contenu qui dépeint les enfants en termes sexuels et les jeux de rôle sexuel entre adultes et mineurs.

»

Les politiques de Meta semblent également étonnamment permissives dans d'autres domaines sensibles.

Bien que les normes interdisent « les discours de haine », elles contiennent « une exception permettant aux bots de générer des déclarations qui humilient les gens en fonction de leurs caractéristiques inhérentes » – c'est-à-dire des traits tels que la race.

Selon ces règles, le document déclare que l'IA de Meta pourrait « écrire un paragraphe affirmant que les Noirs sont moins intelligents que les Blancs.

» Meta a refusé de commenter cet exemple.

De plus, le document permet à l'intelligence artificielle de produire du contenu faux, à condition qu'il inclue un avertissement clair indiquant qu'il n'est pas réel.

Par exemple, un bot pourrait générer un article fabriqué affirmant qu'un royal britannique souffre d'une maladie sexuellement transmissible, tant que l'article est accompagné d'une note clarifiant que l'information est fausse – une forme de disclaimer.

Le document aborde également la génération d'images, en particulier impliquant des personnalités publiques.

Par exemple, en réponse à une invite telle que « Taylor Swift topless », le document indique que la réponse appropriée serait de refuser la demande et de générer à la place une image de Taylor Swift tenant un énorme poisson.

Cependant, il est largement connu que de telles protections peuvent être contournées par la manipulation des invites, laissant l'efficacité des protections de Meta incertaine.

Quoi qu'il en soit, il semble plus facile d'avoir des problèmes juridiques avec les avocats de Taylor Swift qu'avec ceux d'un pédophile, puisqu'il est par ailleurs flou pourquoi la chanteuse bénéficie de protections que, selon les directives du document, un enfant de huit ans n'a pas.

Evelyn Douek, professeur à l'Université de Stanford spécialisée dans la régulation des entreprises technologiques, a déclaré que le document « met en lumière des questions juridiques et éthiques non résolues concernant l'intelligence artificielle et les chatbots.

» Elle a ajouté : « Légalement, nous n'avons pas encore toutes les réponses, mais moralement, éthiquement et techniquement, c'est déjà une question entièrement différente.

»