{"id":300116,"date":"2019-10-31T19:20:09","date_gmt":"2019-10-31T22:20:09","guid":{"rendered":"http:\/\/acaopopular.net\/jornal\/?p=300116"},"modified":"2019-10-31T19:22:03","modified_gmt":"2019-10-31T22:22:03","slug":"como-a-inteligencia-artificial-poderia-acabar-com-a-humanidade-por-acidente","status":"publish","type":"post","link":"https:\/\/acaopopular.net\/jornal\/como-a-inteligencia-artificial-poderia-acabar-com-a-humanidade-por-acidente\/","title":{"rendered":"Como a intelig\u00eancia artificial poderia acabar com a Humanidade – por acidente"},"content":{"rendered":"

<\/h1>\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n
\n
\"Um<\/span>Um especialista em intelig\u00eancia artificial diz que rob\u00f4s ‘bem-intencionados’ ainda podem se voltar contra n\u00f3s<\/figure>\n

De Stephen Hawking a Elon Musk, algumas das principais mentes do mundo levantaram preocupa\u00e7\u00f5es de que a intelig\u00eancia artificial represente uma amea\u00e7a aos seres humanos.<\/p>\n

Mas, de acordo com um novo livro sobre o tema, n\u00e3o devemos temer a possibilidade de uma revolta de rob\u00f4s autoconscientes contra seus “mestres” humanos.<\/p>\n

E sim com o fato de as m\u00e1quinas se tornarem t\u00e3o boas em alcan\u00e7ar os objetivos que estabelecemos para elas que podemos acabar aniquilados por ordenarmos, sem perceber, as tarefas erradas.<\/p>\n

O professor Stuart Russell, da Universidade da Calif\u00f3rnia, \u00e9 autor de\u00a0Compatibilidade Humana: Intelig\u00eancia Artificial e o Problema de Controle<\/i>\u00a0(sem vers\u00e3o no Brasil) e especialista nos avan\u00e7os possibilitados pelo aprendizado das m\u00e1quinas.<\/p>\n

“O mote dos filmes de Hollywood \u00e9 sempre que a m\u00e1quina espontaneamente se torna consciente. Depois, decide que odeia seres humanos e quer matar a todos n\u00f3s”, disse ele \u00e0 BBC.<\/p>\n

\"Ilustra\u00e7\u00e3o<\/span>Os rob\u00f4s est\u00e3o se tornando cada vez melhores na conclus\u00e3o das tarefas que estabelecemos para eles<\/figure>\n

Segundo eles, os rob\u00f4s n\u00e3o ter\u00e3o sentimentos humanos, ent\u00e3o, “esse \u00e9 um motivo errado para se preocupar”.<\/p>\n

“N\u00e3o h\u00e1 realmente (nas m\u00e1quinas) uma consci\u00eancia ruim. H\u00e1 sim uma compet\u00eancia com a qual temos de nos preocupar, a compet\u00eancia para atingir um objetivo que n\u00f3s especificamos mal”.<\/p>\n

Ou seja, segundo ele, digamos que uma m\u00e1quina com intelig\u00eancia artificial tenha de cumprir uma tarefa que damos a ela. Por\u00e9m, atingir essa meta pode necessitar tomada de decis\u00f5es extremas.<\/p>\n

Ent\u00e3o, provavelmente a m\u00e1quina n\u00e3o ter\u00e1 condi\u00e7\u00f5es de fazer um julgamento moral sobre suas a\u00e7\u00f5es: vai apenas tentar atingir o objetivo final, como se fosse qualquer outro.<\/p>\n

\"A<\/span>A vit\u00f3ria do computador Deep Blue sobre Garry Kasparov, em 1997, foi um marco para o desenvolvimento da intelig\u00eancia artificial<\/figure>\n

‘Muito competente’<\/h2>\n

Em uma entrevista ao programa de r\u00e1dio Today, da BBC, Russell deu um exemplo hipot\u00e9tico da amea\u00e7a real que ele acha que a intelig\u00eancia artificial poderia representar.<\/p>\n

Imagine que tenhamos um poderoso sistema de intelig\u00eancia artificial capaz de controlar o clima do planeta. N\u00f3s queremos us\u00e1-lo para diminuir os n\u00edveis de di\u00f3xido de carbono em nossa atmosfera a taxas pr\u00e9-industriais.<\/p>\n

“O sistema ent\u00e3o descobre que a maneira mais f\u00e1cil de fazer isso \u00e9 se livrar de todos os seres humanos, porque s\u00e3o eles que est\u00e3o produzindo todo esse di\u00f3xido de carbono. Voc\u00ea pode pensar: bom, fa\u00e7a o que voc\u00ea quiser, mas n\u00e3o se livre dos seres humanos. O que a m\u00e1quina vai fazer?”, diz Russell.<\/p>\n

Esse exemplo extremo, segundo o professor, serve para destacar os riscos associados \u00e0 intelig\u00eancia artificial que age sob instru\u00e7\u00f5es que os seres humanos ainda n\u00e3o pensaram.<\/p>\n

\"Rob\u00f4<\/span>Russell diz que os seres humanos precisam recuperar o controle da intelig\u00eancia artificial \u200b\u200bantes que seja tarde demais<\/figure>\n

Superintelig\u00eancia<\/h2>\n

A maioria dos sistemas atuais de intelig\u00eancia artificial s\u00e3o “restritos”, projetados especificamente para resolver um problema bem espec\u00edfico em uma \u00e1rea, de acordo com o Centro de Estudos de Riscos Existenciais, da Universidade de Cambridge, no Reino Unido.<\/p>\n

Um momento marcante nesse campo aconteceu em 1997, quando o computador Deep Blue derrotou o ent\u00e3o campe\u00e3o mundial de xadrez, Garry Kasparov, em uma disputa de seis jogos.<\/p>\n

Mas, apesar do feito, o Deep Blue foi projetado especificamente por humanos para jogar xadrez e ficaria perdido em um simples jogo de damas.<\/p>\n

Os avan\u00e7os posteriores na intelig\u00eancia artificial, por\u00e9m, s\u00e3o diferentes. O software AlphaGo Zero, por exemplo, alcan\u00e7ou um n\u00edvel excepcional de desempenho depois de apenas tr\u00eas dias jogando Go contra ele mesmo.<\/p>\n

Usando o aprendizado profundo, um m\u00e9todo de aprendizado de m\u00e1quinas que usa redes neurais artificiais, o AlphaGo Zero exigia muito menos programa\u00e7\u00e3o humana. O dispositivo acabou se tornando um excelente jogador de Go, de xadrez e de Shogi.<\/p>\n

O mais alarmante, talvez, foi que o computador agiu de forma totalmente autodidata.<\/p>\n

“\u00c0 medida que um sistema de intelig\u00eancia artificial se torna mais poderoso e mais geral, ele pode se tornar superinteligente, algo superior ao desempenho humano em muitos ou quase todos os dom\u00ednios”, diz o centro de pesquisas brit\u00e2nico.<\/p>\n

E \u00e9 por isso que, segundo o professor Russell, os humanos precisam retomar o controle.<\/p>\n

\"Os<\/span>Em ‘2001: Uma Odisseia no Espa\u00e7o’ (1968), de Stanley Kubrick, um computador altamente capaz se rebela contra os planos de desativ\u00e1-lo<\/figure>\n

‘N\u00e3o sabemos o que queremos’<\/h2>\n

Russell argumenta que dar \u00e0 intelig\u00eancia artificial objetivos mais definidos n\u00e3o \u00e9 a solu\u00e7\u00e3o para esse dilema, porque os pr\u00f3prios humanos n\u00e3o t\u00eam certeza de quais s\u00e3o esses objetivos.<\/p>\n

“N\u00e3o sabemos que n\u00e3o gostamos de uma coisa at\u00e9 que ela aconte\u00e7a”, diz ele.<\/p>\n

“Devemos mudar toda a base sobre a qual constru\u00edmos sistemas de intelig\u00eancia artificial”, diz ele, afastando-se da no\u00e7\u00e3o de dar aos rob\u00f4s objetivos fixos para eles conclu\u00edrem. “Em vez disso, o sistema precisa entender que n\u00e3o sabe qual \u00e9 o objetivo final da tarefa”, explica.<\/p>\n

“E quando voc\u00ea tem sistemas que funcionam dessa maneira, eles realmente se valem dos seres humanos. Eles come\u00e7ar\u00e3o a pedir permiss\u00e3o antes de fazer as coisas, porque n\u00e3o t\u00eam certeza sobre o que a pessoa deseja.”<\/p>\n

Fundamentalmente, diz o professor Russell, os computadores ficariam “felizes em se deixarem desligar porque querem evitar fazer coisas de que seu controlador n\u00e3o gosta”.<\/p>\n

O ‘g\u00eanio da l\u00e2mpada’<\/h2>\n

“A maneira como constru\u00edmos a intelig\u00eancia artificial \u00e9 um pouco como enxergamos um g\u00eanio da l\u00e2mpada. Voc\u00ea esfrega a l\u00e2mpada, o g\u00eanio sai e voc\u00ea diz: ‘Gostaria que isso acontecesse'”, diz Russell.<\/p>\n

E se o sistema de intelig\u00eancia for suficientemente poderoso, ele far\u00e1 exatamente o que voc\u00ea solicitar.<\/p>\n

“Agora, o problema com os g\u00eanios nas l\u00e2mpadas \u00e9 que o terceiro desejo (nesse caso) \u00e9 sempre: ‘Desfa\u00e7a os dois primeiros desejos, porque n\u00e3o conseguimos especificar os objetivos corretamente’.”<\/p>\n

“Portanto, uma m\u00e1quina que busca um objetivo que n\u00e3o \u00e9 o correto se torna, na verdade, um inimigo da ra\u00e7a humana, um inimigo que \u00e9 muito mais poderoso que n\u00f3s mesmos”, diz Russell.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

“Agora, o problema com os g\u00eanios nas l\u00e2mpadas \u00e9 que o terceiro desejo (nesse caso) \u00e9 sempre: ‘Desfa\u00e7a os dois primeiros desejos, porque n\u00e3o conseguimos especificar os objetivos corretamente’.”<\/p>\n

“Portanto, uma m\u00e1quina que busca um objetivo que n\u00e3o \u00e9 o c<\/p>\n","protected":false},"author":5,"featured_media":300117,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[1175,6],"tags":[],"class_list":["post-300116","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-educacao","category-municipios"],"jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/acaopopular.net\/jornal\/wp-content\/uploads\/2019\/10\/robor-e-carro.jpg","_links":{"self":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/posts\/300116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/comments?post=300116"}],"version-history":[{"count":0,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/posts\/300116\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/media\/300117"}],"wp:attachment":[{"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/media?parent=300116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/categories?post=300116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/acaopopular.net\/jornal\/wp-json\/wp\/v2\/tags?post=300116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}