Atelier Ryza : son application IA dérape déjà à cause de certains joueurs

À peine lancée, l’application utilisant l’intelligence artificielle de Reisalin « Ryza » Stout fait déjà beaucoup parler d’elle. Certains utilisateurs auraient dépensé des sommes importantes afin de pousser le personnage dans ses derniers retranchements.

L’intelligence artificielle continue de s’inviter dans l’univers du manga, de l’anime et du jeu vidéo. Cette fois, c’est Atelier Ryza qui se retrouve au centre des discussions avec une application permettant aux utilisateurs d’échanger directement avec une version virtuelle de Ryza.

L’idée semblait pourtant plutôt simple : proposer aux fans une expérience interactive avec l’un des personnages les plus populaires de la franchise. Mais dès les premières heures, certains utilisateurs ont commencé à tester les limites du système.

Une IA permettant de discuter directement avec Ryza

L’application repose sur une intelligence artificielle capable de générer des conversations avec Ryza et de répondre aux utilisateurs en essayant de reproduire la personnalité de l’héroïne.

Sur le papier, le concept permet aux fans de prolonger l’expérience Atelier Ryza en échangeant directement avec le personnage dans des conversations personnalisées et générées en temps réel.

Plus de 135 dollars dépensés en une seule nuit

Parmi les témoignages ayant particulièrement attiré l’attention de la communauté, un utilisateur affirme avoir dépensé plus de 135 dollars au cours d’une seule nuit uniquement en conversations avec l’intelligence artificielle.

Mais son objectif n’était visiblement pas de discuter d’alchimie ou d’aventure avec Ryza.

L’utilisateur aurait multiplié les échanges afin de pousser progressivement l’intelligence artificielle vers des conversations provocatrices, notamment en demandant au personnage de l’insulter, de le mépriser ou de participer à différents scénarios imaginés par le joueur.

Cette situation met immédiatement en évidence l’un des principaux défis rencontrés par ce type d’application : dès qu’un personnage populaire devient interactif, certains utilisateurs cherchent rapidement à découvrir jusqu’où ils peuvent pousser l’IA.

Les filtres de sécurité sont déjà mis à l’épreuve

Les développeurs semblent pourtant avoir anticipé une partie de ces comportements en intégrant différents mécanismes destinés à empêcher certaines conversations d’aller trop loin.

Lorsque les échanges deviennent trop explicites, Ryza peut notamment interrompre la conversation en indiquant qu’elle va « dormir ».

Malgré ces restrictions, certains utilisateurs cherchent déjà des formulations permettant de contourner progressivement les limites du système ou de provoquer des réponses inattendues.

Le prix des conversations pose également question

Au-delà du comportement des utilisateurs, le modèle économique de l’application suscite lui aussi des réactions.

Cumuler un abonnement mensuel avec un système de jetons consommés pendant les conversations signifie que la facture peut rapidement augmenter pour les personnes utilisant intensivement le service.

Le témoignage d’un joueur affirmant avoir dépensé plus de 135 dollars en quelques heures constitue un exemple particulièrement spectaculaire de cette mécanique.

L’IA pourrait-elle devenir la prochaine étape pour les personnages d’anime ?

Derrière cette histoire assez improbable se cache finalement une évolution beaucoup plus importante de l’industrie du divertissement.

Jusqu’ici, les personnages populaires existaient principalement à travers les mangas, les animes, les jeux vidéo et les produits dérivés.

Grâce aux intelligences artificielles conversationnelles, les éditeurs peuvent désormais imaginer des personnages capables de discuter directement avec leurs fans et d’adapter leurs réponses à chaque utilisateur.

Ryza pourrait donc représenter l’un des premiers exemples d’un modèle amené à devenir beaucoup plus fréquent dans les prochaines années.

Jusqu’où faut-il laisser aller une IA incarnant un personnage connu ?

Entre immersion, monétisation et détournement par les utilisateurs, cette nouvelle génération d’applications pose déjà de nombreuses questions.

Utiliseriez-vous une intelligence artificielle permettant de discuter avec vos personnages de manga, d’anime ou de jeu vidéo préférés ?