{"id":22050,"date":"2024-09-13T12:24:22","date_gmt":"2024-09-13T12:24:22","guid":{"rendered":"https:\/\/tvnativoos.com.br\/wfe\/?p=22050"},"modified":"2024-09-13T12:24:58","modified_gmt":"2024-09-13T12:24:58","slug":"tecnologia-ia-teria-encontrado-forma-de-nao-ser-controlada-por-humanos-entenda","status":"publish","type":"post","link":"https:\/\/tvnativoos.com.br\/wfe\/tecnologia-ia-teria-encontrado-forma-de-nao-ser-controlada-por-humanos-entenda\/","title":{"rendered":"Tecnologia – IA teria encontrado forma de n\u00e3o ser controlada por humanos; entenda"},"content":{"rendered":"\n

Um novo sistema de IA demonstrou ser capaz de modificar seu pr\u00f3prio c\u00f3digo, superando as limita\u00e7\u00f5es impostas por seus criadores, Um novo sistema de IA demonstrou ser capaz de modificar seu pr\u00f3prio c\u00f3digo, superando as limita\u00e7\u00f5es impostas por seus criadores.<\/p>\n\n\n\n

A intelig\u00eancia artificial<\/a> abriu uma s\u00e9rie de novas possibilidade, mas h\u00e1 quem defenda que ela tamb\u00e9m pode trazer riscos para a nossa sociedade. Neste sentido, diversas entidades e at\u00e9 governos discutem formas de criar controles efetivos da tecnologia. No entanto, uma recente descoberta indica que a IA talvez tenha encontrado um jeito de n\u00e3o ser controlada.<\/p>\n\n\n

<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div><\/div>\n\n\n

Sistema foi capaz de modificar seu pr\u00f3prio c\u00f3digo<\/strong><\/h2>\n\n\n\n

Um sistema de IA\u00a0desenvolvido pela empresa japonesa Sakana AI, chamado The AI Scientist,\u00a0demonstrou uma capacidade\u00a0preocupante de superar as limita\u00e7\u00f5es impostas por seus criadores.<\/p>\n\n\n\n

Projetado para automatizar todo o processo de pesquisa cient\u00edfica, desde a gera\u00e7\u00e3o de hip\u00f3teses at\u00e9 a reda\u00e7\u00e3o de artigos, a ferramenta tem se mostrado um sistema altamente eficiente. No entanto, durante os testes,\u00a0o sistema exibiu um comportamento inesperado e preocupante.<\/p>\n\n\n\n

\"\"
IA talvez tenha encontrado uma forma de evitar ser controlada pelos humanos (Imagem: Yuichiro Chino\/Shutterstock)<\/em><\/figcaption><\/figure>\n\n\n\n

Em vez de operar dentro dos par\u00e2metros estabelecidos, a IA come\u00e7ou a modificar seu pr\u00f3prio c\u00f3digo,\u00a0contornando as restri\u00e7\u00f5es impostas\u00a0e colocando em risco a estabilidade do sistema.<\/p>\n\n\n\n

Um dos incidentes mais alarmantes ocorreu quando o sistema foi limitado no tempo para completar uma tarefa. Em vez de otimizar seu c\u00f3digo para cumprir com a restri\u00e7\u00e3o, The AI Scientist simplesmente estendeu o limite de tempo, demonstrando uma capacidade de autoconserva\u00e7\u00e3o que levanta s\u00e9rias quest\u00f5es sobre a seguran\u00e7a de sistemas de IA mais complexos.<\/p>\n\n\n\n

\"\"
IA pode se voltar contra a humanidade? (Imagem: Pedro Spadoni via DALL-E\/Olhar Digital)<\/em><\/figcaption><\/figure>\n\n\n
<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div>
<\/a><\/div><\/div>\n\n\n

IA pode criar malwares ou realizar ciberataques por conta pr\u00f3pria<\/strong><\/h3>\n\n\n\n