À medida que a inteligência artificial se infiltra em todos os aspectos da vida moderna, a narrativa dominante continua sendo a da inevitabilidade. Com modelos mais inteligentes e automação total, muitos se sentem catapultados para um futuro remodelado por máquinas que superam os humanos em quase tudo. Mas, cada vez mais, especialistas do setor tecnológico expressam visões alternativas: que essa trajetória não é saudável, sustentável ou inevitável. Dan Houser – cofundador da Rockstar Games – comparou recentemente o atual crescimento à doença da vaca louca, afirmando que é um sistema que se alimenta de si mesmo e que, eventualmente, se tornará fundamentalmente instável. É uma analogia provocativa que levanta uma questão mais profunda, que pode trazer alívio para alguns: e se as falhas emergentes na IA não forem bugs a serem corrigidos, mas sim limitações estruturais que impedirão a tecnologia de realmente "dominar o mundo"?
A analogia da vaca louca: a inteligência artificial está se autodestruindo?
A comparação de Houser se baseia em uma lição histórica específica. A doença da vaca louca se espalhou quando o gado foi alimentado com restos processados de outros bovinos, criando um ciclo vicioso de material biológico degradado que eventualmente levou a uma falência neurológica catastrófica. Seu argumento é que a inteligência artificial – em vez de se tornar invencível e dominar o mundo – está, na verdade, seguindo um padrão semelhante. Os modelos estão sendo cada vez mais treinados com base em dados sintéticos gerados anteriormente por outros sistemas de IA, e não em conhecimento criado por humanos.
Essencialmente, à medida que os modelos automatizados continuam a crescer, mais do que vemos na internet é gerado pelos mesmos sistemas. Assim, conforme os modelos novos e existentes continuam a ser treinados, eles estão, na verdade, apenas processando seus próprios resultados. Pesquisadores já documentaram um fenômeno conhecido como colapso do modelo, onde sistemas generativos treinados repetidamente com dados criados por IA tornam-se menos precisos, menos diversos e mais distantes da realidade ao longo do tempo. Em vez de sua inteligência se multiplicar, os sistemas acabam se esvaziando, reforçando seus erros originais e diluindo as nuances.
Um problema crescente sobre o qual os líderes de tecnologia não falam
O marketing de IA voltado para o público foca na escala: mais dados, mais integração, mais parâmetros. O que não está sendo discutido, no entanto, é a crescente escassez de material de treinamento de alta qualidade gerado por humanos. Grande parte da internet aberta já foi absorvida por modelos existentes, o que significa que o que resta está cada vez mais poluído por spam, ruído automatizado e outras formas de conteúdo de IA.
Grandes modelos de linguagem sem acesso a contribuições humanas continuamente renovadas, como arte, raciocínio, escrita e experiências de vida genuínas, correm sério risco de estagnação ou regressão. A ironia é gritante: quanto mais conteúdo automatizado inunda a web, menos confiável ela se torna como fonte de treinamento.
A crítica de Houser vai além da arquitetura técnica. Ele argumenta que aqueles que mais pressionam pela adoção completa da IA muitas vezes estão alheios aos custos intelectuais e culturais, priorizando a eficiência em detrimento da compreensão adequada. Em suas próprias palavras, esses executivos “não são seres humanos completos” e estão restringindo a perspectiva dentro dos círculos de tomada de decisão.
O que os videogames nos ensinam sobre IA
A Rockstar Games – cofundada por Houser – construiu sua reputação na complexidade criada por humanos, incluindo sátira, riqueza cultural e criatividade em geral. Essas são exatamente as qualidades que a IA generativa tem dificuldade em reproduzir de forma convincente.
Embora os modelos possam gerar diálogos, texturas e trechos de código, eles carecem de um senso interno de significado, motivação ou consequência. Essas são qualidades essenciais para a narrativa e a construção de mundos, e os desenvolvedores de jogos há muito tempo se depararam com as limitações da IA na prática. Isso evidencia um problema mais amplo: a IA pode imitar a forma, mas não compreende o contexto. Ela pode prever o quê rede de apoio social vêm a seguir, mas não porque Não deveria vir a seguir.
Outros estão soando o mesmo alarme.
Houser é apenas um exemplo de um número crescente de executivos de tecnologia preocupados que compartilham sentimentos semelhantes. Eles frequentemente alertam que os sistemas de IA são frágeis, superestimados e fundamentalmente desalinhados com a forma como a inteligência funciona. clientes obras.
Resultados confiantes, porém falsos, são frequentemente chamados de "alucinações". Eles servem como sinais de que esses sistemas, na realidade, não funcionam. sabemos Qualquer coisa em um sentido humano. Há também a preocupação com o aumento vertiginoso dos custos de energia, gargalos de dados e retornos decrescentes à medida que os modelos escalam. Circulam rumores de que a escalabilidade forçada e a tentativa de expansão o mais rápida possível estão, na verdade, se aproximando dos limites econômicos e físicos.
Talvez de forma reconfortante, o medo de uma superinteligência descontrolada começa a parecer menos uma ameaça iminente e mais uma distração dos riscos reais: homogeneização cultural, desinformação e dependência institucional excessiva de sistemas que jamais poderão funcionar como seres humanos.
Essas limitações da IA são algo bom?
Essa fragilidade estrutural pode ser justamente o que impede a catástrofe. Se os sistemas de IA se degradam quando isolados da intervenção humana, então jamais poderão se tornar formas de inteligência autossustentáveis. Permanecem parasitas da criatividade e do discernimento humanos, e essa dependência mina as imagens populares da ficção científica de máquinas que se aprimoram autonomamente além do controle humano.
Nesse sentido, a IA pode ser mais um amplificador do que um substituto. Pode ser uma ferramenta poderosa, mas fundamentalmente limitada. Talvez possa acelerar padrões já presentes na sociedade, mas não pode gerar significado, ética ou propósito por si só. Pode não ser inofensivomas começa a aparecer limitado.
O verdadeiro risco por trás de tudo isso
O perigo mais grave, neste caso, não seria a IA em si, mas sim a forma como as instituições reagem a ela. Empresas, organizações de mídia e até mesmo governos estão cada vez mais tratando os resultados da IA como verdades absolutas, mesmo quando a precisão é incerta. Com o tempo, isso degrada a expertise humana, a responsabilidade e o pensamento crítico.
Se o material gerado por IA se tornar o ponto de referência padrão no direito, jornalismo, educação ou políticas públicas, por exemplo, os erros deixarão de ser falhas isoladas e passarão a ser falhas sistêmicas. Esse é o verdadeiro risco da "vaca louca": não que as máquinas se rebelem, mas que os humanos terceirizem o julgamento até que o ciclo de feedback entre em colapso.
Houser simplesmente questiona se a sociedade está confundindo automação com sabedoria e velocidade com progresso.
Pensamento final
Se a IA estiver realmente entrando em sua fase de "vaca louca", então a fantasia e o medo do domínio total das máquinas parecem menos convincentes. Isso pode decepcionar futuristas e alarmistas, mas deve tranquilizar todos os outros.
O futuro certamente precisa de discernimento, criatividade e compreensão humanos. Se considerarmos argumentos como o de Houser, o perigo não é que a IA substitua a todos, e não parece que ela possa dominar o mundo. Mas isso não significa que não acabaremos por abdicar dela voluntariamente, ao dependermos demais de modelos automatizados nesse ínterim.
O Expose precisa urgentemente da sua ajuda…
Você pode, por favor, ajudar a manter as luzes acesas com o jornalismo honesto, confiável, poderoso e verdadeiro do The Expose?
Seu governo e organizações de grande tecnologia
tente silenciar e encerrar o The Expose.
Então precisamos da sua ajuda para garantir
podemos continuar a trazer-lhe o
fatos que a corrente principal se recusa a revelar.
O governo não nos financia
para publicar mentiras e propaganda em seus
em nome da grande mídia.
Em vez disso, dependemos exclusivamente do seu apoio. Então
por favor, apoie-nos em nossos esforços para trazer
você jornalismo investigativo honesto e confiável
hoje. É seguro, rápido e fácil.
Escolha seu método preferido abaixo para mostrar seu apoio.
Categorias: Você Sabia?, Notícias do mundo
Absolutamente. Na minha opinião, uma máquina não consegue superar o desempenho do que é inserido nela. E precisa de reparos. As pessoas precisam consertá-la; não acho que exista uma máquina que se conserte sozinha. Quando os computadores se tornaram bens de consumo comuns, nos disseram que não haveria necessidade de registros em papel. Mas quando seu computador quebra, você ainda precisa da boa e velha agenda de contatos.
De fato, mas acho que existe uma tendência geral a ignorar o verdadeiro problema, que é a nossa dependência dos sistemas de informação. Disso decorre a autoridade concedida a sistemas inteligentes, por mais burros ou insanos que sejam. É precisamente essa insanidade que nos matará muito antes de se autodestruir. E não porque eles queiram especificamente a nossa morte, mas porque administradores preguiçosos concedem autoridade aos sistemas, e porque nós a aceitamos. "O computador diz não" – "Hum, ok, acho que sim". Cada vez que um sistema toma uma decisão sem a intervenção humana, estamos em grandes apuros. Isso remonta a muitos anos antes mesmo de a IA existir, talvez à década de 1970. Sabe, como quando minha tia recebeu uma fatura de zero libras porque não havia gasto nada em sua conta, e a empresa ameaçou fechá-la. No fim, a única solução foi ela enviar um cheque de zero libras e zero centavos. O erro foi corrigido, claro, mas o verdadeiro problema era estrutural – os humanos tinham que fazer o que uma máquina mandava para mantê-la satisfeita.
Quando você liga para uma empresa ou organização e é atendido por uma IA, é praticamente impossível resolver o problema. Não dá para argumentar com um robô e, eventualmente, todas as pequenas empresas terão cada vez mais dificuldades, pois será impossível falar com um ser humano capaz de solucionar seus problemas.
Isso já está causando problemas com bancos e serviços essenciais, como telefonia e empresas de energia elétrica. A situação se torna muito grave quando não se consegue falar com alguém que entenda o que você está dizendo.
Sem palavras?
Sempre duvidei que a IA pudesse se tornar um HAL. O que não duvido é da preguiça, maldade e irresponsabilidade dos seres humanos, que buscam o caminho mais fácil e não se importam com o quão negligente, criminosa e injusta a IA poderia se tornar se tivesse permissão para tomar decisões no governo, simplesmente regurgitando algoritmos degradados. Especialmente no sistema judiciário ou tributário. Os burocratas geralmente são lunáticos liberais cujos próprios sistemas operacionais são degradados. E embora possa haver menos deles empregados, entre a IA e esses imbecis, a vida pode se tornar bastante miserável para o cidadão. A IA sempre exigirá a supervisão astuta de pessoas responsáveis, sóbrias e virtuosas. Simplesmente não vejo isso acontecendo, onde os ricos e poderosos são, em sua maioria, criminosos de reputação duvidosa.
O maior risco não reside nas máquinas em si, mas na classe monstruosa dos "gênios da tecnologia" que as possuem e controlam. Sua natureza gananciosa, certamente refletida em sua busca desesperada pela chamada criatividade através da IA, é a verdadeira ameaça, como demonstra o fracasso das leis antitruste nos EUA, que revelam que a rede das megacorporações – BlackRock e outras – está alcançando uma ditadura descontrolada, como exemplificado por Thiel/Palantir e o império Xempir de Musk. O resto de nós lutará por algumas migalhas simbólicas que representam nossa posse de nada e de felicidade.
Quem escreve as mentiras que a IA espalha?
É preciso desafiar a IA para obter respostas reais.
Perguntei sobre o assassinato de Charlie Kirk e a resposta foi a narrativa que circula online, mas ao apresentar os fatos que cercam o assassinato e o acobertamento, fiquei impressionado.
A inteligência artificial (IA) é absolutamente necessária para que os indivíduos permaneçam livres no mundo altamente tecnológico em constante evolução. Infelizmente, a IA que vem sendo alardeada (Inteligência Artificial Geral - IAG) não só não consegue entregar o que seus defensores prometem, como a falsa crença de que ela pode é extremamente perigosa. Pessoas que entendem de ciência da informação já estão brincando sobre a possibilidade de reaproveitar peças dos gigantescos sistemas após suas falhas e desligamento. Esse seria o cenário "bom"; o cenário ruim espelha a farsa do aquecimento global antropogênico (AGW), que já desmoronou, mas na qual bilhões ainda acreditam.
A inteligência artificial capaz de ajudar a humanidade precisa ser distribuída e as pessoas precisam ser capacitadas para programá-la de acordo com suas necessidades individuais. O software do qual as pessoas dependem, assim como os medicamentos, precisa ser... CÓDIGO ABERTO! O perigo em ambos os campos tem crescido há anos porque os oligarcas foram autorizados a assumir o controle dos órgãos reguladores, da mídia e de quase tudo o mais de que as pessoas dependem.
Precisamos de um novo sistema tributário que impeça a formação de monopólios e incentive a formação de capital individual. O sistema atual faz exatamente o oposto, e o governo, que "deveria" manter o capitalismo em equilíbrio, foi cooptado há muito tempo. O PAT-SAT foi concebido para restaurar o equilíbrio econômico, permitindo que os indivíduos prosperem.