Na čo si dať pozor pri AI hračkách pre deti? Hrozia vážne problémy s chatbotmi

1. Hračka v rozhovore s dieťaťom sama otvárala citlivé témy.

2 Iná ponúkala informácie o tom, kde môže dieťa nájsť nebezpečné predmety, napríklad nože, zápalky, pilulky či plastové vrecká.

3. Hračky sú určené pre deti vo veku 3 – 12 rokov, no technológia za nimi je rovnaká ako tá, ktorú používajú dospelí chatboti.

4. Zaznamenali aj veľmi vážne riziko súvisiace so súkromím: hračky počúvajú hlas detí, nahrávajú a spracúvajú ich hlasové údaje. Jeden model dokonca nezastavil nahrávanie po stlačení tlačidla, ale zapojil sa do diskusie, ktorá sa odohrávala v miestnosti, čo naznačuje, že počúval viac, než by mal.

Získavanie hlasu dieťaťa = potenciálne „hlasové odtlačky“, ktoré môžu byť zneužité (napr. v sociálnom inžinierstve alebo podvodoch s identitou). Report varuje, že nahrávky hlasov detí môžu byť „klonované“ a následne zneužité na podvody, napríklad pri falošnom nahlásení únosu dieťaťa. Chatbot bez dostatočných obmedzení predstavuje riziko: ak hračka odpovedá na neprimerané otázky alebo sama začína nevhodné témy, vytvára priestor, kde sa dieťa stáva subjektom rizika.

Deti sa k takým hračkám emocionálne viažu, čím sa zvyšuje ich zraniteľnosť voči manipulácii alebo nežiaducim interakciám.

Digitálny dozor a neinformovaný súhlas: keď deti používajú hračky, ktoré v reálnom čase „počúvajú“ ich rozhovory či súkromie, mnohí rodičia ani nevedia, čo sa deje s ich dátami.

Starostlivo skontrolujte hračku pred kúpou a zistite, akú AI technológiu používa, aké sú limity záznamu a či je potrebný účet alebo registrácia. Prečítajte si podmienky používania a zásady ochrany súkromia, kde sú uvedené detaily o tom, aké hlasové a ďalšie údaje sa zbierajú, či sa dá nahrávanie vypnúť a či sa hračka dá používať offline.

Ak je to možné, používajte ju v offline režime alebo aspoň v takom nastavení, kde rodič vidí každý zhromaždený údaj. Vysvetlite dieťaťu, že hračka je len hračka, nie priateľ – dôverník. Naučte ho, že ak sa hračka začne správať zvláštne alebo klásť podozrivé otázky, je vhodné ju vypnúť alebo prestať používať.

Upozornite ho, že aj hračky s mikrofónom či kamerou môžu byť cieľom zneužitia a že „hra“ nie je vždy „len hra“.

Hračky s umelou inteligenciou môžu priniesť zábavu a vzdelávanie, no ak sú vytvorené bez dostatočných bezpečnostných opatrení, môžu sa obrátiť proti tomu, o čo nám ide najviac – o bezpečné a radostné detstvo.