Chatbot Service Character.ai voegt een nieuwe functie ‘Parental Insights’ toe, waarmee tieners een wekelijks rapport van hun chatbotgebruik naar het e -mailadres van een ouders kunnen verzenden. Zoals uiteengezet in een aankondiging van het bedrijf, bevat dit rapport de dagelijkse gemiddelde tijd die wordt besteed aan web en mobiel, de personages waarmee een gebruiker het meest interactie had en hoeveel tijd ze met elk personage hebben besteed. Het maakt deel uit van een reeks updates die zijn ontworpen om zorgen over minderjarigen aan te pakken die te veel tijd met chatbots doorbrengen en ongepaste inhoud tegenkomen tijdens chats.
Het rapport, waarvoor geen ouders nodig zijn om een account te hebben, is optioneel en kan worden ingesteld door kleine gebruikers in Character.AI’s instellingen. Het bedrijf merkt op dat het een overzicht is van de activiteit van tieners, geen compleet logboek – dus de inhoud van chatbotgesprekken zal niet worden gedeeld. Het platform verbiedt kinderen jonger dan 13 jaar op de meeste locaties en jonger dan 16 in Europa.
Character.ai introduceert sinds vorig jaar nieuwe functies voor minderjarige gebruikers en valt samen met zorgen – en zelfs juridische klachten – over de service. Het platform, dat populair is bij tieners, stelt gebruikers in staat om chatbots te maken en aan te passen waarmee ze communiceren of publiekelijk delen. Maar meerdere rechtszaken beweren dat deze bots ongepast geseksualiseerde inhoud of materiaal hebben aangeboden dat zelfbeschadiging bevorderde. Naar verluidt ontving het naar verluidt ook waarschuwingen van Apple en Google (die vorig jaar de oprichters van Character.AI hebben ingehuurd) over de inhoud van de app.
Het bedrijf zegt dat zijn systeem sindsdien opnieuw is ontworpen; Onder andere veranderingen verplaatst het onder de 18 gebruikers naar een model dat is getraind om “gevoelige” output te voorkomen en voegde het meer prominente meldingen toe die gebruikers eraan herinneren dat de bots geen echte mensen waren. Maar met enthousiasme voor AI -verordening en bloeiwetten voor kinderen, dit zal waarschijnlijk niet de laatste stap zijn die het bedrijf moet nemen.
