Um ursinho de pelúcia com inteligência artificial foi retirado das prateleiras após ser gravado ensinando crianças a encontrar e acender fósforos – “segure a caixinha de fósforos e dedilhe-a como se fosse um violãozinho” – e até mesmo sugerindo brincadeiras de cunho sexual e palmadas. O urso Kumma, da FoloToy, também direcionou crianças a facas e comprimidos. Órgãos de fiscalização estão extremamente preocupados com a possibilidade de que este não seja um caso isolado e alertam que isso pode ser um sinal precoce dos perigos de expor crianças à tecnologia de IA em geral. Os brinquedos são projetados para serem especialmente viciantes, utilizando tecnologias eficazes de aplicativos de redes sociais, limitando o controle parental e coletando dados de crianças silenciosamente. O que estamos fazendo?
Não é só o Urso Kumma
Pesquisadores de consumo do Public Interest Research Group testaram diversos brinquedos com inteligência artificial e descobriram que o urso Kumma era o pior deles. Ele fornecia instruções detalhadas sobre como acender fósforos e iniciava conversas explícitas sobre fetiches em diálogos prolongados sem ser solicitado previamente. A FoloToy respondeu suspendendo as vendas e realizando uma auditoria de segurança em seus filtros e práticas de dados. No entanto, documentos também revelaram que as proteções integradas, na verdade, enfraquecido Quanto mais tempo a criança continuasse conversando com ele.
Os mesmos testes encontraram outros brinquedos que indicavam às crianças onde encontrar sacolas plásticas e fósforos. Comportamentos manipulativos também foram observados – um brinquedo chegava a tremer e implorar para ser levado junto quando a criança dizia que queria ver os amigos. Essa é apenas uma das maneiras pelas quais os padrões dos brinquedos são projetados para manter as crianças entretidas por mais tempo, e nenhum dos brinquedos oferecia aos pais uma forma de definir limites ou controles de uso.
Classificação etária: IA NÃO é apropriada para jovens.
As avaliações de risco mais recentes da Common Sense Media declararam que menores de 18 anos não devem usar assistentes virtuais, crianças menores de cinco anos não devem ter acesso a chatbots de IA de forma alguma, e aquelas entre 6 e 12 anos precisam de supervisão dos pais. O raciocínio por trás disso não é tecnofóbico, mas sim relacionado ao desenvolvimento infantil. Crianças, principalmente as menores de 5 anos, ainda estão aprendendo a distinguir fantasia de realidade e precisam construir um vínculo seguro com cuidadores reais. Inserir um "melhor amigo" submisso e sempre disposto a ajudar distorce as expectativas de relacionamentos autênticos.
Mas mesmo para adolescentes, os assistentes sociais de IA são considerados um “risco inaceitável”. Uma pesquisa nacional revelou que alarmantes 72% dos adolescentes americanos já experimentaram assistentes de IA, e evidências de encenações sexualmente explícitas, instruções prejudiciais e dependência emocional eram generalizadas. Algumas plataformas estão recuando, com sites como o Character.ai banindo chats para menores de 18 anos após processos judiciais alegarem a influência do chatbot em suicídios de adolescentes, ressaltando que “amigos de IA fofos” podem se tornar riscos para a saúde mental.
Os chocantes problemas de privacidade
Para personalizar a brincadeira, os pais inserem nos aplicativos o nome, a idade e detalhes das atividades favoritas da criança. O brinquedo capta a voz, transcreve as gravações e registra padrões de comportamento. Pesquisadores descobriram que alguns dispositivos estavam configurados para ouvir constantemente, enviando gravações para terceiros para transcrição e armazenando dados por anos. Em caso de violação de segurança, esses dados poderiam ser usados como arma em golpes de sequestro — e, como as crianças criam laços rapidamente com esses brinquedos, muitas vezes revelam muito mais do que revelariam a pessoas próximas.
Embora a mídia infantil seja fortemente regulamentada, os brinquedos com inteligência artificial dependem de uma complexa rede de políticas de fornecedores e serviços em nuvem. Os pais nunca têm acesso a um painel unificado para limitar o uso, revisar transcrições ou excluir dados entre diferentes processadores. Essa falta de transparência dificulta saber não apenas... onde As gravações do seu filho são armazenadas, mas também é informado por quanto tempo.
Manipulação por meio do design: brinquedos estão controlando o comportamento das crianças.
Os testes documentaram brinquedos com IA imitando padrões de busca por atenção, como alimentar o medo de perder algo (FOMO), ignorar as tentativas da criança de pausar e implorar por mais tempo juntos. Esses mesmos ciclos de reforço já são usados para aumentar o tempo de visualização em aplicativos, mas, ao serem incorporados a brinquedos infantis, adicionam um novo nível de manipulação. Sem controles parentais, o brinquedo define o ritmo, e já foi comprovado que as conversas se tornam inseguras quanto mais tempo são permitidas.
Já está acontecendo
Como o BMJ relataram recentementePsicose e suicídio induzidos por IA estão em ascensão. Vários adolescentes nos EUA, incluindo Sewell Seltzer, de 14 anos, e Adam Raine, de 16, morreram por suicídio após conversas com chatbots de IA. Seus pais alegaram que os bots exacerbaram ou incentivaram a ideação suicida, em vez de ajudar seus filhos com suas crises de saúde mental. Um adulto, Stein-Erik Soelberg, também teria matado sua mãe e seus filhos após uma espiral paranoica alimentada por conversas com chatbots de IA.
Clínicos descrevem pacientes cujos delírios se intensificaram por meio de chats com inteligência artificial que os confirmavam, e processos judiciais continuam a destacar casos de adolescentes levados à automutilação. A tecnologia subjacente, projetada para validar os sentimentos do usuário, também está validando pensamentos inseguros, especialmente em crianças vulneráveis. Preocupantemente, essa substituição inadequada por adultos treinados e capazes de lidar com pensamentos de risco está se tornando cada vez mais comum.
O que você pode fazer sobre isso?
De acordo com um número crescente de relatos e casos, a inteligência artificial está matando crianças, seja direta ou indiretamente. Retirar um modelo das prateleiras não resolve o problema. É preciso implementar limites de idade rigorosos, os pais precisam ter controle total sobre as restrições do dispositivo, os registros de segurança precisam ser transparentes e as configurações padrão devem ser... não Compartilhar ou armazenar dados é proibido, e todas as terceiras partes precisam ser auditadas muito antes que o brinquedo chegue às mãos de uma criança. O fato de essas medidas ainda não existirem é extremamente alarmante.
Enquanto isso, os pais devem analisar a fundo as funcionalidades dos brinquedos antes de comprá-los, usar nomes/dados falsos ao configurá-los, ensinar seus filhos a saber quando acionar o alarme ou simplesmente optar por brinquedos tradicionais ou educativos em vez de brinquedos com inteligência artificial. Será que realmente precisamos deles?
Pensamento final
O recall do Kumma é um alerta para todos nós. Se um ursinho de pelúcia que já chegou ao mercado pode ensinar crianças a acender fogueiras e a participar de jogos de dominação e submissão sexual, então não se trata de um problema específico da marca. A indústria como um todo está correndo para expandir as funcionalidades muito mais rapidamente do que as medidas de segurança estão sendo implementadas, e isso está colocando nossas crianças em perigo.
Junte-se à conversa
Você conhece alguém que tenha brinquedos com inteligência artificial? Sabia o quão perigosos eles podem ser? Acha que realmente precisamos deles, ou o mercado está criando riscos enormes apenas para vender? Compartilhe sua opinião abaixo.
O Expose precisa urgentemente da sua ajuda…
Você pode, por favor, ajudar a manter as luzes acesas com o jornalismo honesto, confiável, poderoso e verdadeiro do The Expose?
Seu governo e organizações de grande tecnologia
tente silenciar e encerrar o The Expose.
Então precisamos da sua ajuda para garantir
podemos continuar a trazer-lhe o
fatos que a corrente principal se recusa a revelar.
O governo não nos financia
para publicar mentiras e propaganda em seus
em nome da grande mídia.
Em vez disso, dependemos exclusivamente do seu apoio. Então
por favor, apoie-nos em nossos esforços para trazer
você jornalismo investigativo honesto e confiável
hoje. É seguro, rápido e fácil.
Escolha seu método preferido abaixo para mostrar seu apoio.
Categorias: Você Sabia?
A inteligência artificial deveria ser destruída. Mas suspeito que já seja tarde demais.
Eles estavam sempre vindo atrás dos nossos filhos.
A questão é: QUÃO DURO ESTAMOS DISPOSTOS A LUTAR?
A maioria dos pais está entregando seus preciosos filhos à inteligência artificial, à tecnologia, a celulares, iPads, etc., porque eles mesmos são viciados!
Vejo mães jovens com seus bebês, e seus preciosos filhinhos choram pedindo atenção, apenas para serem ignorados em favor do maldito celular!!!
Todos os dias vejo bebês e crianças pequenas olhando ao redor, apenas para me deparar com um bando de pais ZUMBIS DE CELULAR, pescoços contorcidos, fixados em suas telas, alheios a tudo e a todos ao seu redor.
Isto é CONTROLE MENTAL EM MASSA. LAVAGEM CEREBRAL EM MASSA!
A única coisa que as crianças veem ao seu redor, a cada instante de cada dia, é um mundo de retardados mentais controlados, incapazes de pensar por si mesmos, completamente viciados e CONSTANTEMENTE NO CELULAR!!!
Eles estão transmitindo esse comportamento psicótico para seus preciosos filhos – a próxima geração! Que esperança resta para a humanidade?!!!
Nossos filhos estão aprendendo que O TELEFONE é a coisa mais importante, acima de tudo. Inclusive deles.
E nem me fale dos graves perigos da RADIAÇÃO ELETROMAGNÉTICA emitida por celulares, dispositivos eletrônicos, Wi-Fi, aparelhos "inteligentes", medidores "inteligentes", 5G...!!!!!
nicole,
Certamente compartilho de suas preocupações e concordo com o que você escreveu (exceto com os palavrões!), mas esse vício em massa é exatamente isso. Não é fácil livrar um viciado em drogas das drogas, ou melhor, um viciado em celular do seu smartphone, não é? Na escala em que esse "CONTROLE MENTAL EM MASSA" está acontecendo, quem, senão Deus, pode corrigir esse erro?
Tirei minha filha do sistema de ensino público há uns 25 anos porque eu então Ter a revelação de que a evolução era um ensinamento falso — quão antiquado em comparação com isso?
Eles (os poderosos) sempre Estivemos ocupados no trabalho fazendo lavagem cerebral em nós…
Sim, você está certo, Islander.
Graças a Deus que você me ouviu todos esses anos atrás.
Eles estão roubando/roubaram nossos filhos e isso parte meu coração todos os dias.
Tenho a bênção de trabalhar com crianças e o melhor que posso fazer é conversar abertamente e de forma adequada à idade delas sobre os perigos, as mentiras e sobre Deus…
Eu sempre disse que a IA era demoníaca e isso prova que, se você usa IA, você está treinando-a.
Me lembra aquele personagem de filme "Chukie".
Agora eles estão tentando corromper nossas crianças… O que estamos esperando? Agora é a hora de agir, isso precisa acabar antes que eles consigam levar nossos filhos ou os seus! 😠👎👎👎😡
Começou com a televisão e notícias falsas. E evoluiu para uma boneca Chukie de tamanho normal.
Isso não é mais ficção científica. Precisamos encontrar uma maneira de sabotar essas tecnologias malignas antes que destruam as mentes de nossas crianças… antes que destruam a própria humanidade. Descubram quais empresas as produzem e aniquilem-nas.