{"id":485626,"date":"2025-04-20T06:23:36","date_gmt":"2025-04-20T09:23:36","guid":{"rendered":"https:\/\/acaopopular.net\/jornal\/?p=485626"},"modified":"2025-04-20T06:23:36","modified_gmt":"2025-04-20T09:23:36","slug":"inteligencia-artificial-ultrapassara-os-humanos-em-alguns-anos-diz-ex-funcionario-da-openai","status":"publish","type":"post","link":"https:\/\/acaopopular.net\/jornal\/inteligencia-artificial-ultrapassara-os-humanos-em-alguns-anos-diz-ex-funcionario-da-openai\/","title":{"rendered":"Intelig\u00eancia artificial ultrapassar\u00e1 os humanos em alguns anos, diz ex-funcion\u00e1rio da OpenAI"},"content":{"rendered":"<header class=\"grid_12 prefix_2\">\n<div class=\"tituloNoticia\">\n<h1 class=\"tituloNoticiaDet\"><\/h1>\n<h2 class=\"subTituloDet\">Daniel Kokotajlo, que trabalhou na empresa at\u00e9 o ano passado, publicou uma s\u00e9rie de previs\u00f5es sobre a evolu\u00e7\u00e3o<\/h2>\n<\/div>\n<div class=\"descricaoNoticia\">\n<aside class=\"dataAutor\">Por<strong>\u00a0Ag\u00eancia O Globo<\/strong><span id=\"readpespeed\"><\/span><\/aside>\n<\/div>\n<div class=\"spacerLine mobileNao\"><img loading=\"lazy\" decoding=\"async\" class=\"alignnone wp-image-485627 size-full\" src=\"https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco.jpg\" alt=\"\" width=\"450\" height=\"245\" srcset=\"https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco.jpg 450w, https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco-300x163.jpg 300w, https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco-93x50.jpg 93w, https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco-160x87.jpg 160w, https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco-225x123.jpg 225w\" sizes=\"auto, (max-width: 450px) 100vw, 450px\" \/><\/div>\n<div class=\"spacer40 mobileNao\"><\/div>\n<\/header>\n<div class=\"imgPadrao grid_12 prefix_2\"><small class=\"legendaFoto\">Intelig\u00eancia Artificial \u00a0&#8211; <em>Foto: @BrianPenny\/Freepik<\/em><\/small><\/div>\n<div class=\"clear\"><\/div>\n<div class=\"spacer40 mobileNao\"><\/div>\n<article class=\"grid_8 prefix_2 textoArea\">O ano \u00e9 2027. Poderosos sistemas de intelig\u00eancia artificial est\u00e3o se tornando mais inteligentes que os humanos e est\u00e3o causando estragos na ordem mundial. Um grupo de espi\u00f5es chineses roubou segredos de IA dos EUA, e a Casa Branca est\u00e1 correndo para uma retalia\u00e7\u00e3o. Em um importante laborat\u00f3rio de IA, v\u00e1rios engenheiros ficam alarmados ao descobrir que seus modelos come\u00e7aram a engan\u00e1-los e podem se rebelar.<\/p>\n<p>Estas n\u00e3o s\u00e3o cenas de um roteiro de fic\u00e7\u00e3o cient\u00edfica. Esses s\u00e3o cen\u00e1rios imaginados por uma organiza\u00e7\u00e3o sem fins lucrativos sediada em Berkeley, Calif\u00f3rnia, chamada AI Futures Project, que passou o ano passado prevendo como o mundo mudar\u00e1 nos pr\u00f3ximos anos \u00e0 medida que sistemas de IA cada vez mais poderosos forem desenvolvidos.<\/p>\n<p>O projeto \u00e9 liderado por Daniel Kokotajlo, um ex-pesquisador da OpenAI que deixou a empresa no ano passado devido a preocupa\u00e7\u00f5es com algumas a\u00e7\u00f5es imprudentes.<\/p>\n<div class=\"dn_noticiasRelacionadas\">\n<div class=\"spacer30\"><\/div>\n<\/div>\n<p>Durante seu tempo na OpenAI, onde fez parte da equipe de governan\u00e7a, Kokotajlo escreveu relat\u00f3rios internos detalhados sobre poss\u00edveis desenvolvimentos na corrida em dire\u00e7\u00e3o \u00e0 intelig\u00eancia artificial geral \u2014 ou AGI \u2014 um termo vago que se refere a m\u00e1quinas com intelig\u00eancia semelhante \u00e0 humana. Depois de deixar a empresa, ele fez uma parceria com Eli Lifland, um pesquisador de IA que fez previs\u00f5es precisas sobre eventos mundiais, e eles come\u00e7aram a tentar prever a pr\u00f3xima onda de IA.<\/p>\n<p><strong>Vis\u00f5es concorrentes<\/strong><br \/>\nO resultado \u00e9 \u201cAI 2027\u201d, um relat\u00f3rio e site publicado esta semana que usa um relato fict\u00edcio detalhado para expor o que pode acontecer se os sistemas de IA ultrapassarem a intelig\u00eancia humana, algo que os autores preveem que acontecer\u00e1 nos pr\u00f3ximos dois a tr\u00eas anos.<\/p>\n<div>\n<div>\n<div id=\"intext2\" class=\"div-gpt-ad\" data-sizes=\"336x280,300x250,250x250\">\n<div id=\"google_ads_iframe_\/21867286880,88816410\/folhape\/interna_rm2_0__container__\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>\u201cPrevemos que as IAs continuar\u00e3o a melhorar at\u00e9 se tornarem agentes totalmente aut\u00f4nomos, melhores que os humanos em todos os aspectos, por volta do final de 2027\u201d, disse Kokotajlo em uma entrevista recente.<\/p>\n<p>Especula\u00e7\u00f5es sobre IA abundam atualmente. O fervor da IA tomou conta de S\u00e3o Francisco, e o cen\u00e1rio tecnol\u00f3gico da Bay Area se tornou uma cole\u00e7\u00e3o de tribos antag\u00f4nicas e seitas dissidentes, cada uma convencida de que sabe o que o futuro reserva.<\/p>\n<p>Algumas previs\u00f5es de IA s\u00e3o expressas em manifestos, como \u201cM\u00e1quinas de gra\u00e7a amorosa\u201d, um ensaio de 14.000 palavras escrito no ano passado por Dario Amodei, presidente executivo da Anthropic, ou \u201cConsci\u00eancia situacional\u201d, um relat\u00f3rio do ex-pesquisador da OpenAI Leopold Aschenbrenner que foi amplamente lido nos c\u00edrculos pol\u00edticos.<\/p>\n<p>O Projeto AI Futures optou por um cen\u00e1rio hipot\u00e9tico que \u00e9, em ess\u00eancia, uma obra de fic\u00e7\u00e3o cient\u00edfica criada a partir de pesquisas rigorosas usando seus melhores palpites sobre o futuro como pontos da trama. O grupo trabalhou por quase um ano para refinar centenas de previs\u00f5es de IA. Eles ent\u00e3o contrataram um escritor, Scott Alexander \u2014 autor do blog Astral Codex Ten \u2014 para ajud\u00e1-los a traduzir suas previs\u00f5es em uma narrativa.<\/p>\n<p>\u201cPegamos o que ach\u00e1vamos que aconteceria e tentamos criar uma narrativa convincente\u201d, disse Lifland.<\/p>\n<p>Cr\u00edticos dessa abordagem podem argumentar que hist\u00f3rias fict\u00edcias sobre IA assustam as pessoas em vez de educ\u00e1-las. Sem d\u00favida, tamb\u00e9m haver\u00e1 especialistas em IA que se opor\u00e3o \u00e0 afirma\u00e7\u00e3o central do grupo de que a intelig\u00eancia artificial superar\u00e1 a intelig\u00eancia humana. Ali Farhad , CEO do Allen Institute for Artificial Intelligence, um laborat\u00f3rio de IA em Seattle, preparou uma revis\u00e3o do relat\u00f3rio \u201cAI 2027\u201d na qual indicou que este n\u00e3o deixou uma impress\u00e3o positiva nele.<\/p>\n<p>\u201cSou totalmente a favor de proje\u00e7\u00f5es e previs\u00f5es, mas essa previs\u00e3o n\u00e3o parece ser baseada em evid\u00eancias cient\u00edficas ou na evolu\u00e7\u00e3o real da IA neste momento\u201d, disse ele.<\/p>\n<p>N\u00e3o h\u00e1 d\u00favida de que algumas das opini\u00f5es do grupo s\u00e3o extremas. (Por exemplo, Kokotajlo me disse no ano passado que ele achava que havia 70% de probabilidade de que a IA destru\u00edsse ou causasse danos catastr\u00f3ficos \u00e0 humanidade.) Al\u00e9m disso, tanto Kokotajlo quanto Lifland t\u00eam la\u00e7os com o altru\u00edsmo eficaz, outro movimento filos\u00f3fico popular entre os t\u00e9cnicos que vem emitindo alertas terr\u00edveis sobre a IA h\u00e1 anos.<\/p>\n<p>No entanto, tamb\u00e9m vale a pena notar que algumas das maiores empresas do Vale do Sil\u00edcio est\u00e3o fazendo planos para um mundo al\u00e9m da AGI, e muitas previs\u00f5es anteriores sobre IA que pareciam loucas \u2014 como a vis\u00e3o de que as m\u00e1quinas passariam no teste de Turing, um experimento mental que determina se uma m\u00e1quina pode parecer se comunicar como um humano \u2014 se tornaram realidade.<\/p>\n<p>Em 2021, um ano antes do lan\u00e7amento do ChatGPT, Kokotajlo escreveu uma postagem de blog intitulada \u201cComo ser\u00e1 2026\u201d, descrevendo sua vis\u00e3o para o progresso potencial dos sistemas de IA. V\u00e1rias de suas previs\u00f5es se mostraram prof\u00e9ticas, convencendo-o de que esse tipo de previs\u00e3o \u00e9 valioso e que ele \u00e9 bom nisso.<\/p>\n<p>\u201c\u00c9 uma maneira elegante e pr\u00e1tica de comunicar seu ponto de vista a outras pessoas\u201d, comentou.<\/p>\n<p><strong>O caminho para a intelig\u00eancia artificial superior<\/strong><br \/>\nNa semana passada, Kokotajlo e Lifland me convidaram para seu escrit\u00f3rio \u2014 uma pequena sala em um espa\u00e7o de coworking em Berkeley chamado Constellation, onde operam v\u00e1rias organiza\u00e7\u00f5es de seguran\u00e7a de IA \u2014 para me mostrar como eles trabalham.<\/p>\n<div>\n<div>\n<div id=\"intext5\" class=\"div-gpt-ad\" data-sizes=\"336x280,300x250,250x250\">\n<div id=\"google_ads_iframe_\/21867286880,88816410\/folhape\/interna_rm5_0__container__\"><\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>Kokotajlo, vestindo uma jaqueta militar bege, pegou um marcador e escreveu quatro abrevia\u00e7\u00f5es em um grande quadro branco: SC &gt; SAR &gt; SIAR &gt; ASI. Ele me explicou que cada um representava um marco no desenvolvimento da IA.<\/p>\n<p>Primeiro, ele disse, se as tend\u00eancias atuais continuarem, a IA ser\u00e1 um programador sobre-humano no in\u00edcio de 2027. Ent\u00e3o, em meados de 2027, ser\u00e1 um pesquisador de IA sobre-humano, um agente aut\u00f4nomo capaz de supervisionar equipes de programadores de IA e fazer novas descobertas. Ent\u00e3o, no final de 2027 ou in\u00edcio de 2028, ele se tornar\u00e1 um pesquisador de IA superinteligente: uma intelig\u00eancia artificial mais h\u00e1bil do que n\u00f3s em criar IA avan\u00e7ada e capaz de automatizar sua pr\u00f3pria pesquisa e desenvolvimento, sendo essencialmente capaz de criar vers\u00f5es mais inteligentes de si mesmo. Ele indicou que, nesse ponto, em breve teremos superintelig\u00eancia artificial (ASI), e \u00e9 imposs\u00edvel prever o que acontecer\u00e1 a seguir.<\/p>\n<p>Se tudo isso parece fantasia\u2026 \u00e9 porque \u00e9. Nada remotamente parecido com o que Kokotajlo e Lifland preveem \u00e9 poss\u00edvel com as ferramentas de IA atuais, que mal conseguem pedir um burrito no DoorDash.<\/p>\n<p>Mas eles est\u00e3o confiantes de que os pontos cegos diminuir\u00e3o rapidamente \u00e0 medida que os sistemas de IA se tornarem mais eficientes na codifica\u00e7\u00e3o e a pesquisa e o desenvolvimento de IA acelerarem. Seu relat\u00f3rio se concentra na OpenBrain, uma empresa fict\u00edcia de IA que est\u00e1 construindo um poderoso sistema de IA conhecido como Agente-1. (Eles decidiram n\u00e3o destacar uma empresa de IA espec\u00edfica, mas criar uma que reunisse os principais laborat\u00f3rios de IA dos EUA.)<\/p>\n<p>\u00c0 medida que o Agente 1 melhora nas tarefas de codifica\u00e7\u00e3o, ele come\u00e7a a automatizar grande parte do trabalho de engenharia na OpenBrain, permitindo que a empresa se mova mais r\u00e1pido e ajudando a desenvolver o Agente 2, um pesquisador de IA ainda mais capaz. No final de 2027, no final da narrativa hipot\u00e9tica, o Agente 4 est\u00e1 fazendo um ano de progresso na pesquisa de IA a cada semana e est\u00e1 amea\u00e7ando se rebelar.<\/p>\n<p>Embora eu concorde com os autores de \u201cAI 2027\u201d que sistemas poderosos de IA estar\u00e3o dispon\u00edveis em breve , n\u00e3o estou convencido de que seja poss\u00edvel para programadores de IA sobre-humanos adquirirem automaticamente as outras habilidades necess\u00e1rias para avan\u00e7ar em dire\u00e7\u00e3o \u00e0 intelig\u00eancia geral. Al\u00e9m disso, sou cauteloso com previs\u00f5es que pressup\u00f5em que o progresso da IA ser\u00e1 exponencial e tranquilo, sem grandes gargalos ou obst\u00e1culos ao longo do caminho.<\/p>\n<p>Entretanto, mesmo que eu discorde de algumas das previs\u00f5es espec\u00edficas, acho que vale a pena fazer esse tipo de previs\u00e3o. Se uma IA realmente poderosa estiver pr\u00f3xima, todos n\u00f3s teremos que come\u00e7ar a imaginar alguns futuros muito estranhos.<\/p>\n<p>&nbsp;<\/p>\n<section class=\"bannerBillboardDetalhe\"><\/section>\n<div class=\"clear\"><\/div>\n<\/article>\n","protected":false},"excerpt":{"rendered":"<p>Daniel Kokotajlo, que trabalhou na empresa at\u00e9 o ano passado, publicou uma s\u00e9rie de previs\u00f5es sobre a evolu\u00e7\u00e3o<\/p>\n","protected":false},"author":5,"featured_media":485627,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[1175,6],"tags":[],"class_list":["post-485626","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-educacao","category-municipios"],"jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2025\/04\/espaco.jpg","_links":{"self":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/posts\/485626","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/comments?post=485626"}],"version-history":[{"count":0,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/posts\/485626\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/media\/485627"}],"wp:attachment":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/media?parent=485626"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/categories?post=485626"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/tags?post=485626"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}