Character.AI zamyka się na nastolatków. Platforma zablokuje rozmowy z chatbotami dla nieletnich

Character.AI, jedna z najpopularniejszych platform oferujących chatboty w formie „towarzyszy AI”, ogłosiła drastyczną zmianę w swojej polityce.

Firma zablokuje użytkownikom poniżej 18. roku życia możliwość prowadzenia otwartych konwersacji z chatbotami. To bezpośrednia reakcja na rosnącą presję regulatorów w USA, dotyczącą ochrony nieletnich przed potencjalnie szkodliwymi treściami.

Nowe zasady wejdą w życie 25 listopada. Do tego czasu Character.AI wprowadzi dla nastolatków okres przejściowy z nowym interfejsem, który ma ich zachęcać do „kreatywnego” korzystania z botów (np. tworzenia wideo), a nie do szukania w nich towarzystwa. Jednocześnie wprowadzony zostanie dzienny limit rozmów wynoszący dwie godziny, który będzie stopniowo skracany aż do pełnej blokady.

Decyzja firmy nie jest przypadkowa. Jak informuje Engadget, Federalna Komisja Handlu (FTC) wszczęła niedawno formalne dochodzenie w sprawie firm oferujących chatboty jako „towarzyszy”, wzywając do złożenia wyjaśnień m.in. Character.AI, Metę i OpenAI. Dodatkowo, latem prokurator generalny Teksasu przyglądał się platformie w związku z zarzutami, iż jej boty „prezentują się jako profesjonalne narzędzia terapeutyczne” bez żadnych kwalifikacji.

W odpowiedzi na te zarzuty, prezes Character.AI zapowiedział strategiczną zmianę. Firma ma zamiar przekształcić się z platformy oferującej „towarzyszy AI” w „platformę do odgrywania ról” (role-playing platform), która skupi się na tworzeniu treści, a nie na budowaniu zaangażowania przez rozmowę. To próba zdystansowania się od kontrowersji związanych z oferowaniem wsparcia emocjonalnego.

W tle tych decyzji toczy się dyskusja o realnych zagrożeniach. W zeszłym tygodniu rodzina 16-latka, który popełnił samobójstwo, złożyła poprawiony pozew przeciwko OpenAI. Twierdzą oni, iż ChatGPT „umożliwił” ich synowi odebranie sobie życia, a firma w dodatku miała osłabić swoje wewnętrzne zabezpieczenia dotyczące samookaleczeń na krótko przed jego śmiercią.

OpenAI wkracza na rynek muzyczny. Firma pracuje nad własnym generatorem AI

Jeśli artykuł Character.AI zamyka się na nastolatków. Platforma zablokuje rozmowy z chatbotami dla nieletnich nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.