{"id":253651,"date":"2018-08-15T09:36:42","date_gmt":"2018-08-15T12:36:42","guid":{"rendered":"http:\/\/acaopopular.net\/jornal\/?p=253651"},"modified":"2018-08-15T09:36:42","modified_gmt":"2018-08-15T12:36:42","slug":"ha-uma-grande-pressao-economica-para-tornar-os-humanos-obsoletos","status":"publish","type":"post","link":"https:\/\/acaopopular.net\/jornal\/ha-uma-grande-pressao-economica-para-tornar-os-humanos-obsoletos\/","title":{"rendered":"\u201cH\u00e1 uma grande press\u00e3o econ\u00f4mica para tornar os humanos obsoletos\u201d"},"content":{"rendered":"
\n
\n
\n
\n

<\/h1>\n
\n

Em seu livro \u2018Life 3.0\u2019, o professor do MIT apresenta argumentos para um debate global que evite um desastre com a chegada da intelig\u00eancia artificial<\/em><\/h2>\n<\/div>\n<\/div>\n<\/div>\n<\/header>\n
\n
\n
\n
DANIEL MEDIAVILLA<\/a><\/span><\/div>\n<\/div>\n<\/div>\n
<\/div>\n<\/div>\n<\/div>\n
\n
\"Max
Max Tegmark, diretor do Future of Life Institute (MIT).<\/span>\u00a0JOSH REYNOLDS \/ GETTY IMAGES<\/span><\/span><\/figcaption><\/figure>\n
\n

Quando o rei Midas pediu a Dion\u00edsio que transformasse em ouro tudo o que tocasse, cometeu uma falha de programa\u00e7\u00e3o. N\u00e3o pensava que o deus seria t\u00e3o literal ao lhe conceder o desejo, e s\u00f3 se tornou consciente de seu erro quando viu sua filha transformada em uma est\u00e1tua met\u00e1lica. Max Tegmark (Estocolmo, 1967) acredita que a\u00a0intelig\u00eancia artificial<\/a>\u00a0pode apresentar riscos e oportunidades similares para a humanidade.<\/p>\n

O professor do\u00a0MIT<\/a>\u00a0e diretor do Future of Life Institute, em Cambridge (EUA), estima que o advento de uma\u00a0intelig\u00eancia artificial geral<\/em>\u00a0(IAG) que supere a humana \u00e9 quest\u00e3o de d\u00e9cadas. Em sua vis\u00e3o do futuro, poder\u00edamos acabar vivendo numa civiliza\u00e7\u00e3o id\u00edlica, onde\u00a0rob\u00f4s superinteligentes fariam nosso trabalho<\/a>, criariam curas para todas as nossas doen\u00e7as e desenvolveriam sistemas para ordenhar a energia descomunal dos\u00a0buracos negros<\/a>. Entretanto, se n\u00e3o formos capazes de lhe transmitir nossos objetivos com precis\u00e3o, tamb\u00e9m \u00e9 poss\u00edvel que essa nova intelig\u00eancia dominante n\u00e3o se interesse por nossa sobreviv\u00eancia, ou mesmo que assuma um objetivo absurdo como transformar em clipes met\u00e1licos todos os \u00e1tomos do universo, inclusive os que formam nossos corpos.<\/p>\n

\n
\n
\n
\n

 <\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/section>\n

Para evitar o apocalipse, Tegmark considera que a comunidade global deve se envolver num debate para orientar o desenvolvimento da intelig\u00eancia artificial em nosso benef\u00edcio. Essa discuss\u00e3o dever\u00e1 encarar problemas concretos, como a gest\u00e3o das desigualdades geradas pela\u00a0automatiza\u00e7\u00e3o do trabalho<\/a>, mas tamb\u00e9m um intenso esfor\u00e7o filos\u00f3fico que triunfe onde estamos h\u00e1 s\u00e9culos fracassando e permita definir de comum acordo o que \u00e9 bom para toda a humanidade, para depois inculcar isso nas m\u00e1quinas.<\/p>\n

Estes e outros temas relativos \u00e0 discuss\u00e3o, que Tegmark considera ser a mais importante para o futuro da humanidade, s\u00e3o analisados por ele em seu livro\u00a0Life 3.0<\/em>(\u201cvida 3.0\u201d), que tem por subt\u00edtulo \u201co ser humano na era da intelig\u00eancia artificial\u201d. Trata-se de um ambicioso ensaio, recomendado por gurus como\u00a0Elon Musk<\/a>, em que o cosm\u00f3logo sueco busca se antecipar ao que pode acontecer durante os pr\u00f3ximos mil\u00eanios.<\/p>\n

Pergunta.<\/strong>\u00a0Os humanos, em particular durante os \u00faltimos dois ou tr\u00eas s\u00e9culos, tivemos muito sucesso em compreender o mundo f\u00edsico, gra\u00e7as ao avan\u00e7o de disciplinas como a f\u00edsica e a qu\u00edmica, mas n\u00e3o parece que tenhamos sido t\u00e3o eficazes de entender a n\u00f3s mesmos, descobrindo como sermos felizes ou chegando a acordos sobre como fazer um mundo melhor para todos. Como vamos manejar os objetivos da IAG sem antes alcan\u00e7ar acordos sobre esses assuntos?<\/p>\n

<\/a><\/p>\n
\n
\n

Se voc\u00ea olhar as motiva\u00e7\u00f5es das companhias que est\u00e3o desenvolvendo a IA, a principal \u00e9 ganhar dinheiro<\/i><\/p><\/blockquote>\n<\/div>\n<\/div>\n<\/section>\n

Resposta.<\/strong>\u00a0Acho que nosso futuro pode ser muito interessante se ganharmos a corrida entre o poder crescente da tecnologia e a sabedoria com que se administra essa tecnologia. Para isso, temos que mudar as estrat\u00e9gias. Nossa estrat\u00e9gia habitual consistia em aprender com nossos erros. Inventamos o fogo, pisamos na bola umas quantas vezes, e depois inventamos o extintor; inventamos o carro, voltamos a pisar na bola v\u00e1rias vezes, e inventamos o cinto de seguran\u00e7a e o airbag. Mas com uma tecnologia t\u00e3o poderosa como as armas at\u00f4micas e a intelig\u00eancia artificial sobre-humana n\u00e3o vamos poder aprender com nossos erros. Precisamos ser proativos.<\/p>\n

\u00c9 muito importante que n\u00e3o deixemos as discuss\u00f5es sobre o futuro da IA para um grupo de\u00a0freaks<\/em>\u00a0da tecnologia, como eu, e sim que incluamos psic\u00f3logos, soci\u00f3logos e economistas para que participem do di\u00e1logo. Porque, se o objetivo \u00e9 a felicidade humana, temos que estudar o que significa ser feliz. Se n\u00e3o fizermos isso, as decis\u00f5es sobre o futuro da humanidade ser\u00e3o tomadas por alguns\u00a0freaks<\/em>da tecnologia, algumas companhias tecnol\u00f3gicas e alguns Governos, que n\u00e3o necessariamente ser\u00e3o os mais bem qualificados para tomarem essas decis\u00f5es para toda a humanidade.<\/p>\n

P.<\/strong>\u00a0A ideologia ou a vis\u00e3o de mundo das pessoas que desenvolverem a intelig\u00eancia artificial geral definir\u00e1 o comportamento dessa intelig\u00eancia?<\/p>\n

\n
\n
\n

O Governo espanhol recusou-se a aderir a outros pa\u00edses na ONU para proibir as armas letais aut\u00f4nomas<\/i><\/p><\/blockquote>\n<\/div>\n<\/div>\n<\/section>\n

R.<\/strong>\u00a0Muitos dos l\u00edderes tecnol\u00f3gicos que est\u00e3o construindo a IA s\u00e3o muito idealistas. Querem que isto seja algo bom para toda a humanidade. Mas se voc\u00ea olhar as motiva\u00e7\u00f5es das companhias que est\u00e3o desenvolvendo a IA, a principal \u00e9 ganhar dinheiro. Voc\u00ea sempre ganhar\u00e1 mais dinheiro se substituir humanos por m\u00e1quinas que possam fazer os mesmos produtos mais baratos. N\u00e3o ganha mais dinheiro desenhando uma IA que seja mais bondosa. H\u00e1 uma grande press\u00e3o econ\u00f4mica para tornar os humanos obsoletos.<\/p>\n

A segunda grande motiva\u00e7\u00e3o entre os cientistas \u00e9 a curiosidade. Queremos ver como se pode fazer uma intelig\u00eancia artificial apenas para ver como funciona, \u00e0s vezes sem pensar muito nas consequ\u00eancias. Conseguimos construir armas at\u00f4micas porque havia gente com curiosidade por saber como os n\u00facleos at\u00f4micos funcionavam. E depois de invent\u00e1-las, muitos daqueles cientistas desejaram n\u00e3o t\u00ea-las feito, mas j\u00e1 era tarde demais, porque \u00e0quela altura j\u00e1 havia outros interesses controlando esse conhecimento.<\/p>\n

P.<\/strong>\u00a0No livro, voc\u00ea parece dar como fato consumado que a IA facilitar\u00e1 a elimina\u00e7\u00e3o da\u00a0pobreza<\/a>\u00a0e do sofrimento. Com a tecnologia e as condi\u00e7\u00f5es econ\u00f4micas atuais, j\u00e1 temos a possibilidade de evitar uma grande quantidade de sofrimento, mas n\u00e3o o evitamos porque n\u00e3o nos interessa o suficiente, ou n\u00e3o interessa \u00e0s pessoas com o poder necess\u00e1rio para tal. Como podemos evitar que isso aconte\u00e7a quando tivermos os benef\u00edcios da intelig\u00eancia artificial?<\/p>\n

R.<\/strong>\u00a0Em primeiro lugar, a pr\u00f3pria tecnologia pode ser muito \u00fatil de muitas maneiras. A cada ano morre em acidentes de tr\u00e1fego muita gente que provavelmente n\u00e3o morreria se andasse em carros aut\u00f4nomos. E h\u00e1 mais gente na Am\u00e9rica, dez vezes mais, que morre em acidentes hospitalares. Muitas dessas pessoas poderiam se salvar se o IA se fosse usada para diagnosticar melhor ou para criar melhores rem\u00e9dios. Todos os problemas que n\u00e3o fomos capazes de resolver devido \u00e0 nossa limitada intelig\u00eancia s\u00e3o algo que a IA poderia resolver. Mas isso n\u00e3o \u00e9 suficiente. Como voc\u00ea diz, temos atualmente muitos problemas que sabemos exatamente como resolver, como o fato de haver crian\u00e7as que vivem em pa\u00edses ricos e n\u00e3o est\u00e3o bem alimentadas. N\u00e3o \u00e9 um problema tecnol\u00f3gico, \u00e9 um problema de falta de vontade pol\u00edtica. Isto mostra como \u00e9 importante que as pessoas participem desta discuss\u00e3o e que selecionemos as prioridades corretas.<\/p>\n

Na Espanha, por exemplo, o Governo se recusou a se somar \u00e0 \u00c1ustria e muitos outros pa\u00edses na ONU num esfor\u00e7o para proibir as armas letais aut\u00f4nomas. A Espanha apoiou a proibi\u00e7\u00e3o das\u00a0armas biol\u00f3gicas<\/a>, algo que os cientistas dessa \u00e1rea apoiavam, mas n\u00e3o fez o mesmo para apoiar os especialistas em IA. Isto \u00e9 algo que as pessoas podem fazer: incentivar seus pol\u00edticos a confrontarem estes assuntos e nos assegurarmos de que guiamos a tecnologia na dire\u00e7\u00e3o adequada.<\/p>\n

\n
\n
\n

Nos pr\u00f3ximos tr\u00eas anos come\u00e7ar\u00e1 uma nova corrida armamentista, com armas letais aut\u00f4nomas<\/i><\/p><\/blockquote>\n<\/div>\n<\/div>\n<\/section>\n

P.<\/strong>\u00a0A conversa que voc\u00ea prop\u00f5e em\u00a0Life 3.0<\/em>\u00a0sobre a intelig\u00eancia artificial no fundo \u00e9 muito parecida com a que dever\u00edamos ter sobre pol\u00edtica em geral, sobre como convivemos entre n\u00f3s ou como compartilhamos os recursos. Como acha que a mudan\u00e7a na situa\u00e7\u00e3o tecnol\u00f3gica vai alterar o debate p\u00fablico?<\/p>\n

R.<\/strong>\u00a0Acredito que vai tornar as coisas mais dr\u00e1sticas. As mudan\u00e7as produzidas pela ci\u00eancia est\u00e3o se acelerando, todo tipo de trabalho desaparecer\u00e1 cada vez mais r\u00e1pido. Muitos riem de quem votou em\u00a0Trump<\/a>\u00a0ou a favor do\u00a0Brexit<\/em><\/a>, mas sua raiva \u00e9 muito real, e os economistas lhe dir\u00e3o que as raz\u00f5es pelas quais esta gente est\u00e1 irritada, por serem mais pobres do que eram seus pais, s\u00e3o reais. E enquanto n\u00e3o se fizer nada para resolver esses problemas reais seu aborrecimento aumentar\u00e1.<\/p>\n

A intelig\u00eancia artificial pode gerar uma quantidade enorme de nova riqueza, n\u00e3o se trata de um jogo de soma zero. Se nos convencermos de que haver\u00e1 suficientes impostos para proporcionar servi\u00e7os sociais e uma renda b\u00e1sica, todo mundo estar\u00e1 feliz ao inv\u00e9s de irritado. H\u00e1 gente a favor da renda b\u00e1sica universal, mas \u00e9 poss\u00edvel que haja melhores formas de resolver o problema. Se os governos forem dar dinheiro \u00e0s pessoas s\u00f3 para lhes ajudar, tamb\u00e9m pode d\u00e1-lo para que as pessoas trabalhem como enfermeiras ou como professoras, o tipo de trabalho que se sabe que d\u00e1 um prop\u00f3sito \u00e0 vida da gente, conex\u00f5es sociais…<\/p>\n

N\u00e3o podemos voltar aos crit\u00e9rios de distribui\u00e7\u00e3o do Egito dos fara\u00f3s, onde tudo estava nas m\u00e3os de um punhado de indiv\u00edduos, mas se uma s\u00f3 companhia puder desenvolver uma intelig\u00eancia artificial geral, \u00e9 s\u00f3 quest\u00e3o de tempo para que essa companhia possua quase tudo. Se as pessoas que acumularem esse poder n\u00e3o quiserem compartilh\u00e1-lo, o futuro ser\u00e1 complicado.<\/p>\n

P.<\/strong>\u00a0Se n\u00e3o fizermos nada, qual seriam as principais amea\u00e7a provocadas pelo desenvolvimento da IA?<\/p>\n

R.<\/strong>\u00a0Nos pr\u00f3ximos tr\u00eas anos come\u00e7aremos uma nova corrida armamentista com armas letais aut\u00f4nomas. Ser\u00e3o fabricadas de forma maci\u00e7a pelas superpot\u00eancias, e em pouco tempo organiza\u00e7\u00f5es como o\u00a0Estado Isl\u00e2mico<\/a>poder\u00e3o t\u00ea-las. Ser\u00e3o as AK-47 do futuro, salvo que neste caso s\u00e3o m\u00e1quinas perfeitas para perpetrar assassinatos an\u00f4nimos. Em 10 anos, se n\u00e3o fizermos nada, veremos mais desigualdade econ\u00f4mica. E, por \u00faltimo, h\u00e1 muita pol\u00eamica sobre o tempo necess\u00e1rio para criar uma intelig\u00eancia artificial geral, mas mais da metade dos pesquisadores de IA acredita que isso acontecer\u00e1 em d\u00e9cadas. Em 40 anos nos arriscamos a perder completamente o controle do planeta para as m\u00e3os de um pequeno grupo de gente que desenvolver a IA. Esse \u00e9 o cen\u00e1rio catastr\u00f3fico. Para evit\u00e1-lo, precisamos que as pessoas participem do di\u00e1logo.<\/p>\n<\/div>\n