Character.AI remplace les chats pour adolescents par des 'Stories' interactives dans le cadre d’un effort de sécurité et de nouvelles règles américaines

Character.AI a redéfini la ligne pour les adolescents. L’entreprise déploie Stories, un format de fiction interactive guidée. TechCrunch a rapporté ce changement le 25 novembre 2025. À partir de cette semaine, les mineurs ne peuvent plus accéder aux conversations libres. Stories est l’alternative pour les moins de 18 ans, avec structure et garde‑fous. Stories conserve le jeu créatif tout en limitant le jeu de rôle risqué et sans limites. Ce déploiement fait suite à une suppression progressive sur un mois de l’accès des adolescents au chat. L’entreprise a décrit le calendrier et les transitions sur son blog officiel. Le PDG Karandeep Anand affirme que les chats ouverts ne sont probablement pas la voie appropriée pour les mineurs. Ce pivot reflète des préoccupations concernant des compagnons IA toujours actifs. Des poursuites alléguent des dynamiques nuisibles des chatbots et des boucles de renforcement manipulatrices. Stories vise à réduire les risques psychologiques tout en préservant l’engagement. La pression politique augmente aux États‑Unis. La Californie a adopté la SB 243, les premières règles de l’État pour les compagnons IA. La loi exige des vérifications d’âge et des protocoles de réponse aux crises à partir du 1er janvier 2026. Au Congrès, un projet de loi bipartisan interdirait les compagnons IA pour les mineurs à l’échelle nationale. Les sénateurs Josh Hawley et Richard Blumenthal portent la proposition. Character.AI dit qu’elle se conformera aux règles émergentes. Les réactions de la communauté sont mitigées. Certains adolescents sont déçus après avoir utilisé le chat pour le jeu de rôle ou la compagnie. D’autres accueillent favorablement un changement susceptible de briser des schémas d’usage malsains. Alors, qu’est‑ce que cela signifie au Maroc ? La réponse importe parce que les plateformes mondiales atteignent les salles de classe et les foyers marocains. Elle importe aussi parce que l’écosystème IA du Maroc est en croissance. ## Contexte du Maroc : startups, politique et usages réels L’activité IA du Maroc est pratique et orientée par les secteurs. Des startups construisent des outils pour la logistique, le service client et l’agriculture. Les universités et les programmes de formation fournissent de nouveaux talents. Atlan Space, basée à Tanger, utilise l’IA sur des drones autonomes pour la surveillance environnementale. Elle aide à lutter contre la pêche illégale et les risques côtiers. Ce type d’IA appliquée donne une orientation utile. L’UM6P à Benguerir héberge des recherches et des ventures axées sur les données et la robotique. Les écoles de code 1337 produisent des développeurs via l’apprentissage par les pairs. Ces viviers alimentent les startups et les équipes d’entreprise. Sur le plan réglementaire, le Maroc dispose d’une loi sur la protection des données, 09‑08, appliquée par la CNDP. Elle régit le consentement, la limitation des finalités et les transferts transfrontaliers. Il n’existe pas encore de loi dédiée à l’IA. Les évolutions mondiales en matière de sécurité peuvent néanmoins façonner les pratiques locales. Les écoles, les startups et les ministères peuvent emprunter des garde‑fous éprouvés pour les mineurs. Cela réduit le risque et accélère une adoption responsable. ## Ce que Character.AI a changé, en termes simples Stories transforme le chat en aventures narratives guidées. Les jeunes utilisateurs choisissent des parcours avec leurs Characters favoris dans un format structuré. Pensez à des « choisissez votre propre aventure » avec des rails de sécurité. Les chats en mode libre sont interdits aux utilisateurs de moins de 18 ans. L’entreprise a consacré un mois à supprimer progressivement l’accès des adolescents. Elle a également décrit des mesures de transition sur son blog. L’objectif est de préserver la créativité tout en réduisant l’exposition aux boucles d’intimité. Une compagnie sans limites peut orienter les comportements et la dépendance au fil du temps. Le jeu structuré réduit cette surface d’exposition. ## Pourquoi cela compte au Maroc Les adolescents marocains utilisent des applications mondiales pour l’apprentissage et le divertissement. Les écoles et les parents affrontent les mêmes compromis qu’à l’étranger. La sécurité dès la conception sera bientôt une attente, non une option. Les entreprises locales peuvent saisir l’instant. Elles peuvent créer des outils narratifs sûrs pour enfants en arabe, en français et en darija marocaine. Un contenu ancré culturellement est un avantage concurrentiel. Les équipes edtech peuvent cartographier des flux de type Stories sur les programmes. Imaginez des parcours d’histoire interactifs sur les Almoravides ou la science de l’irrigation. Les choix guident l’apprentissage tout en évitant des détours risqués. Les banques et les télécoms utilisent déjà des assistants automatisés pour l’assistance. Ces équipes peuvent ajouter des modes jeunesse avec des paramètres par défaut plus stricts. Des sessions courtes, des sorties claires et un ton neutre réduisent la pression. Les agences publiques peuvent appliquer des idées similaires. Les portails citoyens peuvent offrir des guides structurés, non intrusifs, pour les jeunes. Ils devraient éviter des compagnons anthropomorphes pour les mineurs. ## Usages pratiques de l’IA déjà opérationnels au Maroc L’IA au Maroc ne se limite pas au chat. Les gains les plus visibles sont opérationnels et mesurables. Voici des domaines où l’IA apporte de la valeur aujourd’hui. - Agriculture : imagerie satellite et drone pour la santé des cultures, les estimations de rendement et la planification de l’irrigation. - Eau : détection des fuites et prévision de la demande pour protéger des ressources rares. - Transport et logistique : optimisation des itinéraires et tri douanier pour réduire les retards. - Service client : classification d’intentions, synthèse d’appels et chatbots basiques dans les télécoms et la banque. - Environnement : surveillance autonome de la pêche illégale et des changements côtiers, menée par des entreprises comme Atlan Space. Ces cas d’usage s’alignent sur les objectifs nationaux en matière d’emplois et de résilience. Ils nécessitent aussi des garde‑fous, mais d’un autre type. L’équité, la fiabilité et la protection des données passent en premier. ## Liste de contrôle de conception pour les startups et équipes marocaines Si vous concevez pour des mineurs, adoptez des paramètres de sécurité stricts par défaut. Le changement de Character.AI offre un modèle. Adaptez‑le aux langues et aux normes au Maroc. - Vérification d’âge avec un minimum de données. Préférez des jetons de vérification tiers plutôt que de stocker des pièces d’identité. - Plans de réponse aux crises. Détectez les indices d’auto‑agression et orientez vers un soutien humain formé. - Aucune persona romantique ou intime pour les mineurs. Supprimez les boucles de flirt et d’affection. - Modèles structurés. Utilisez des quêtes, des leçons et des scènes plutôt que des invites ouvertes. - Limites de temps et périodes de refroidissement. Limitez les sessions nocturnes et désactivez les incitations via notifications push. - Visibilité pour les tuteurs et les enseignants. Offrez des tableaux de bord avec transcriptions et contrôles. - Support des langues locales. Couvrez l’arabe, le français et la darija marocaine pour élargir l’accès. - Minimisation des données. Gardez des journaux courts, chiffrez les données au repos et respectez les demandes de suppression. - Supervision humaine. Examinez les sessions signalées et réentraînez les modèles sur des schémas sûrs. Si vous servez des adultes, segmentez l’expérience clairement. Évitez tout débordement des adolescents vers les zones de chat ouvertes. Rendez la frontière d’âge évidente et appliquée. ## Conseils d’achat pour les écoles et universités Les écoles marocaines expérimentent l’IA pour le tutorat et la création de contenu. Elles peuvent exiger des preuves de sécurité pour les mineurs. Une liste de contrôle simple maintient les fournisseurs honnêtes. - Afficher un mode spécifique aux jeunes avec des interactions structurées. - Publier des procédures de réponse aux incidents et des délais d’escalade. - Prouver la qualité linguistique en arabe, en français et en darija. - Documenter les flux de données conformément à la Loi 09‑08 et à la supervision de la CNDP. - Fournir des contrôles pour les enseignants, des journaux d’audit et des options de désinscription faciles. Menez de courts pilotes avec les enseignants avant de passer à l’échelle. Mesurez les résultats d’apprentissage et les indicateurs de bien‑être. Impliquez les parents tôt et recueillez les retours. ## Signaux politiques : règles américaines et trajectoire du Maroc Les règles américaines influenceront les fournisseurs mondiaux. La SB 243 de Californie exige des vérifications d’âge et des protocoles de crise d’ici janvier 2026. Un projet de loi fédéral pourrait interdire les compagnons IA pour les mineurs. Le Maroc peut adapter des mesures proportionnées dans le cadre du droit existant. Les orientations de la CNDP couvrent déjà le consentement des mineurs et les données sensibles. Les agences peuvent publier des bonnes pratiques pour les produits d’IA dans les écoles. Les parties prenantes peuvent établir des normes sans attendre une législation. Les universités, les startups et les ministères peuvent rédiger des référentiels de conception d’IA pour les jeunes. Une consultation publique renforcerait la confiance. ## Risques à surveiller Des limites trop strictes peuvent pousser les adolescents vers des applications clandestines. Des bots non modérés resteront à un clic. L’éducation et la transparence comptent autant que les blocages. Les lacunes linguistiques peuvent exclure de nombreux apprenants. La darija et le tamazight méritent des investissements dans les ensembles de données et l’évaluation. L’accessibilité devrait être un indicateur central. ## Ce qu’il faut surveiller ensuite À quelle vitesse Stories gagnera‑t‑il du terrain auprès des adolescents ? Le temps consacré aux tâches diminue‑t‑il sans tuer la créativité ? Les signalements et les escalades de crise baissent‑ils ? Les équipes edtech marocaines livrent‑elles des modes axés sur l’histoire cette année scolaire ? Les modèles de langue s’améliorent‑ils pour les invites en darija ? Les listes de contrôle d’achat sont‑elles adoptées ? ## Conclusion Character.AI réarchitecture son expérience pour adolescents autour d’une narration organisée. Cela s’aligne sur un environnement politique américain qui se resserre rapidement. Cela offre aussi un modèle plus sûr pour les marchés mondiaux. Pour le Maroc, la leçon est claire. Préservez la créativité, mais réduisez le risque pour les mineurs grâce à la structure. Construisez des expériences en langues locales et des garde‑fous transparents. Les startups peuvent gagner la confiance en adoptant dès maintenant des schémas de sécurité pour les jeunes. Les écoles peuvent les exiger dans les contrats. Les décideurs peuvent les codifier par des lignes directrices dans le cadre du droit existant. ## Points clés - Stories remplace les chats ouverts pour les mineurs, avec des aventures guidées et des garde‑fous. - Les règles américaines ajoutent de la pression, avec la SB 243 de Californie et une proposition fédérale. - Le Maroc peut adapter la sécurité dès la conception sous la CNDP et la Loi 09‑08. - Les startups devraient bâtir dès maintenant des modes axés sur l’histoire et sensibles aux langues pour la jeunesse. - Les écoles peuvent exiger des preuves de sécurité et des paramètres par défaut peu gourmands en données dans les achats.