Publicamos hoje mais três textos da série Mitomanias/Mitologias da BVPS, livremente inspirada no Mitologias de Roland Barthes, que propõe discutir as tramas inconscientes de nossas práticas sociais. No texto “Séries”, Mario Cámara reflete sobre o lugar e o papel que as séries ocupam no cotidiano. Embora existam há décadas, novos modos de consumo estão transformando nossa relação com esses objetos culturais. Quando e por quê começamos a vê-las, discuti-las e inseri-las como algo importante em nossas conversas diárias? Em “O mito da classe média”, Celi Scalon e André Salata discutem um conceito amplamente utilizado, mas de difícil definição. Afinal, quem compõe essa tal classe média? Seria possível reduzi-la a grupos de renda intermediários? Essas são algumas das perguntas que situam um debate com longos caminhos pela frente. Enquanto em “Inteligência artificial”, German Nunez explora um mito que permeia a imaginação humana desde o século XX, mas que encontrou nos avanços tecnológicos recentes um novo patamar de discussão. Entre esperanças e temores, a humanidade especula sobre o futuro das IA’s. Surge, então, a questão: essas previsões dizem mais sobre nós ou sobre a verdadeira natureza da inteligência artificial?
A série Mitomanias/Mitologias é organizada por André Botelho (UFRJ), João Victor Kosicki (USP) e Onildo Correa (PPGSA/IFCS/UFRJ). Para conhecer outros textos publicados, clique aqui.
Boa leitura!
Inteligência artificial
Por German Alfonso Nunez (PPGS/USP)
Só em 1964 que Norbert Wiener viria a ponderar sobre os impactos éticos e sociológicos de seus trabalhos anteriores, The Human use of Human Beings, de 1950, e Cybernetics, de 1948. No pequeno livro God and Golem, Inc. (1964), o renomado polímata, que seria para sempre associado à nova (e questionada) ciência da cibernética, demonstrava preocupação. Já ali, Wiener lembra que a cibernética, como pensamento programático para o futuro, uma certa “pious hope”, não existia mais. Em seu lugar surgia uma técnica de contorno profanos, unindo engenharia, biologia, medicina e sociologia.
O título dessa obra já adiantava um tanto do seu argumento e aflição. Afinal o Golem, criatura associada à tradição mística do judaísmo, estava longe de ser uma invenção comum. Animado pelos humanos a partir do barro, assim como Adão, ele não apenas significava
uma imagem que compete com a divina e pode vir a destroná-la, via idolatria, como também […] representaria a técnica de reprodução e criação de homens que poderia levar não apenas a um esquecimento de Deus, mas do próprio homem (Seligmann-Silva, 2012: 186).
Igualmente, para Wiener (1964), a cibernética possuía três desdobramentos que tinham implicações não somente éticas, mas religiosas: o primeiro se referia ao fato de que as máquinas eram capazes de aprender; o segundo, à observação de que elas poderiam se reproduzir; e finalmente o último, à crescente opacidade na divisão entre máquinas e humanos, que levaria à humanização da máquina e desumanização do humano.
Surpreende a atualidade da preocupação de Wiener, especialmente se pensarmos nas reações mais recentes em torno dos avanços daquilo que convencionamos rotular como Inteligência Artificial (IA). Dito isso, cabe ressaltar que a surpresa advém menos da sua veracidade ou concordância com seus medos, e mais pelo padrão ou tipologia dos argumentos por ele utilizados.
O problema fica mais claro ao pensarmos na maneira como a IA é discutida e apresentada hoje. Se por um lado somos reiteradamente e negativamente lembrados de que o futuro lhe pertence, por outro somos bombardeados por alegações enamoradas com o potencial transformador dessa tecnologia. Na versão mais realista da crítica, as IAs estariam acabando com as mais diversas ocupações, levando ao desemprego massivo e a destruição de incontáveis futuras gerações – uma preocupação que o próprio Wiener vocifera em seu prefácio. Já na sua versão mais especulativa, o risco é existencial: seja por meio de uma inteligência capaz de se aprimorar, tornando-se uma superinteligência, seja por meio de uma inteligência restrita, mas super capaz, cedo ou tarde seríamos todos extintos.
De modo inverso, seria justamente por conta de sua capacidade sobre-humana que as IAs seriam capazes de moldar um futuro promissor, oferecendo ocupações mais qualificadas aos seres humanos, aumentando a produtividade e revolucionando intelectualmente a ciência, a arte, a economia, a comunicação etc. Aqui o céu é o limite; alguns alegam que tais desdobramentos sugerem a criação de uma nova espécie inteligente na terra ou que a simbiose entre máquina e homem nos elevaria a uma nova forma de vida, transcendendo os limites biológicos da carne.
Por trás de ambas as conclusões, entretanto, encontramos uma série de suposições que dizem mais sobre nós do que sobre as tecnologias. Talvez a mais evidente dessas seja aquela que equaciona a menta humana com a IA.
Como sugere Paul Edwards (1996) em sua história cultural da computação, tal suposição advém das novas disciplinas que surgem da Guerra Fria e do contexto do embate nuclear, onde a preocupação com a previsibilidade, o controle e a contenção do adversário eram primordiais. A cibernética, a computação, a inteligência artificial e as ciências cognitivas que surgiam, por exemplo, dependiam profundamente dos computadores como metáforas e modelos para mentes vistas como ferramentas para solucionar problemas. O próprio termo ciborgue encapsularia uma indefinição estratégica das fronteiras presentes nessas metáforas. Dessa maneira, propõe o historiador, podemos pensar que tais paralelismos entre a mente humana e as IAs resultam em um discurso que poderíamos rotular de ciborgue (Edwards, 1996), presente até hoje na maneira com que discutimos e pensamos essas tecnologias. A inteligência da máquina, assim, estaria inexoravelmente atrelada à humana, sendo essa o objetivo final: uma inteligência artificial geral[1].
A barreira daquilo que consideramos inteligência, entretanto, também sofreu alterações. Em outras palavras, aquilo que separava o humano das máquinas foi se alterando conforme os avanços técnicos iam sendo disseminados, demonstrando que a nossa própria concepção de inteligência ia se alterando ao longo do tempo. O teste de Turing, talvez uma das maneiras mais célebres de testar a barreira entre inteligências humanas e maquínicas, representa um desses parâmetros em constante evolução: desde sua concepção em 1950, são inúmeras reivindicações de sua solução e os desafios e críticas à sua concepção, alterando-se conforme a capacidade das máquinas de imitarem um humano durante uma conversa foi aumentando. Em uma era de cópias e mentiras verossímeis, tal desafio baseado na conversa apenas parece, hoje, inocente.
A capacidade de resolver problemas complexos, como aqueles apresentados por jogos de estratégia, é outro exemplo para se pensar nessa mudança, definindo inteligência conforme a banda toca. Nesse caso é interessante pensarmos no ano de 1997, para uma disputa midiática entre um homem e uma máquina. De um lado Garry Kasparov, lendário Grande Mestre e campeão mundial de xadrez, e o então ‘super’ computador da IBM, Deep Blue. Não era raro o enquadramento dessa disputa como sendo o embate definitivo entre a criatividade humana e o poder bruto do transistor. Ao fim, Kasparov, como sabemos, não se conteve e concedeu a derrota. O xadrez, por sua vez, se tornaria um jogo finito, objetivo. Uma vez relacionado com inteligência, estratégia e gênio, o xadrez após a partida tornava-se um problema probabilístico calculável, facilmente resolvido.
Outros novos problemas foram surgindo, como o desafio de go, o milenar jogo chinês com mais probabilidades que uma máquina poderia resolver. Então tido como inalcançável e digno da imprevisibilidade e capacidade intuitiva humana, esse seria resolvido com redes neurais profundas, em um desenvolvimento técnico que faz com que os atuais large language models, baseados em tais redes, sejam vistos como a chegada de um futuro disruptivo ‘nunca visto’. Ainda assim – apesar de algumas vozes mais empolgadas – ninguém é capaz de dizer que um chatbot baseado nesses sistemas realmente pensa ou possui agência. Permutando soluções baseadas em toda internet – e reproduzindo assim muito de nossos vieses – esses programas, capazes de gerar textos com uma eficácia incrível, estão distantes de uma inteligência humana[2]. Em resumo, além de possibilitar um paralelo entre as capacidades humanas e maquínicas, através do discurso ciborgue, esses desafios expressam também a certeza da inevitabilidade da inteligência artificial geral, desnudando também aquela crença na infalibilidade da ciência e da tecnologia que, como sabemos, torna-se assim a principal e mais celebrada forma de aprimoração da realidade – em detrimento, como sabemos, da velha política[3].
Contudo, dito isso tudo, não pretendo negar os perigos ou benefícios advindos das novas IAs. Existe realmente uma mudança em curso que é difícil ser negada. O que pretendo é demonstrar que tais previsões e representações, que invariavelmente contêm pitadas de futurologia, escondem suposições que dizem mais sobre nossas crenças e menos sobre a natureza da IA, em particular, e das tecnologias, em geral.
Agora, por certo essas não ‘impactam’ o mundo, apesar do que dizem especialistas, jornalistas e outros produtores culturais. Essa talvez seja a maior falácia por trás das IAs hoje.
Para tanto, satisfaz recordarmos dos comentários de Raymond Williams (2011) a respeito da relação entre cultura e tecnologia. Escrito numa outra época e noutro lugar, o texto de Williams não obstante preocupa-se justamente em problematizar essa relação, com destaque para um olhar sobre o que considera ser o ‘determinismo cultural’ por trás dos discursos que buscam explicar – ou convencer – o que representariam novos desenvolvimentos técnicos. Lembra Williams que pesquisas técnicas, elas mesmas inseridas em um contexto social próprio, não resultam em produtos prontos. Esses produtos advindos das pesquisas tecnológicas, por sua vez, respondem a demandas externas, aproveitadas ou não por terceiros.
Para demonstrar a sua interpretação, Williams usa o exemplo do rádio, advindo das descobertas do físico alemão Heinrich Hertz acerca da radiação eletromagnética. Seguindo a descoberta da Hertz – essa seguindo sua própria lógica, como desenvolvimento de pesquisas sobre a eletricidade –, experimentos foram feitos para se reaproveitar a pesquisa técnica como forma de substituir a comunicação por telégrafos e telefones, com fio. Nada indicava ali, naquele instante, que o rádio adquiria suas características atuais. Foi só com a apropriação da pesquisa por empresas de comunicação e tecnologias existentes, algumas delas fabricando tanto o equipamento quanto fundando rádios comerciais, que o rádio começa ter os contornos que conhecemos hoje.
Assim, se hoje somos levados a crer que se essa ou aquela IA impactará o mundo, que isso ou aquilo transformará o mundo como conhecemos, é porque somos conduzidos para tal, por pressões externas à pesquisa ou avanços propriamente ditos.
O recente burburinho em torno das IAs e a corrida do ouro que testemunhamos hoje, em 2024, são tão somente sinais desses interesses corporativos que se pretende como desenvolvimentos normativos, naturais e inevitáveis. Para fugirmos dessas ilusões, para desnaturalizarmos esses mitos e repensarmos a posição da IA atualmente, talvez devêssemos retornar para Wiener, que como um profeta da contenção, reiterou:
Render unto man the things which are man’s and unto the computer the things which are the computer’s. This would seem the intelligent policy to adopt when we employ men and computers together in common undertakings. It is a policy as far removed from that of the gadget worshiper as it is from the man who sees only blasphemy and the degradation of man in the use of any mechanical adjuvants whatever to thoughts (Wiener, 1964: 73).
Notas
[1] Uma inteligência artificial geral (IAG) é um tipo de IA projetada para realizar qualquer tarefa cognitiva que um ser humano possa executar, com habilidades para entender, aprender e aplicar conhecimentos em diferentes domínios, sem ser limitada a tarefas específicas. Ela pode raciocinar, resolver problemas, aprender novas habilidades e se adaptar a mudanças de maneira similar à inteligência humana, ao contrário das inteligências artificiais específicas que são limitadas a funções ou tarefas determinadas.
[2] Poderíamos ainda pensar no famoso exemplo do Quarto Chinês como uma forma de criticarmos tais paralelismos, que na filosofia da mente está relacionada com o funcionalismo e com a teoria computacional da mente, além da ideia de ‘IA Forte’, isto é, da teoria que sustenta que um computador devidamente programado não apenas simula a mente humana, mas realmente possui estados mentais e compreensão genuína. No artigo “Minds, Brains, and Programs”, John Searle (1980) apresenta o argumento do Quarto Chinês para contestar a ideia de que computadores programados de forma adequada possuem estados cognitivos ou consciência. Ele descreve uma situação hipotética onde uma pessoa que não entende chinês, dentro de uma sala, manipula símbolos chineses seguindo instruções em inglês, gerando respostas coerentes em chinês sem realmente entender a língua. Searle argumenta que, assim como o operador na sala não compreende chinês, um computador que manipula símbolos não possui compreensão ou pensamento real, apenas simula essas capacidades. Ele aponta, portanto, que a verdadeira compreensão envolve intencionalidade e estados mentais que não podem ser replicados apenas por algoritmos.
[3] Esse pensamento foi explorado, por vezes, por dentro da ideia de uma ‘ideologia californiana’, tipicamente desenvolvida no Vale do Silício, berço de muitas das empresas por trás dos avanços técnicos que possibilitaram tais desenvolvimentos. Para mais, consultar: Fred Turner (2006) e Richard Barbrook & Andy Cameron (1996).
Referências
BARBROOK, Richard & CAMERON, Andy. (1996). The Californian ideology. Science as Culture, v. 6, n. 1, p. 44–72.
EDWARDS, Paul N. (1996). The closed world: computers and the politics of discourse in Cold War America. Cambridge, Mass: MIT Press.
SEARLE, John R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences. v. 3, n. 3, p. 417–424.
SELIGMANN-SILVA, Márcio. (2012). O Golem: Entre a técnica e a magia, aquém da bioética. Remate de Males, v. 27, n. 2, p. 183–195.
TURNER, Fred. (2006). From counterculture to cyberculture: Stewart Brand, the Whole Earth Network, and the rise of digital utopianism. Chicago: University of Chicago Press.
WIENER, Norbert. (1964). God and Golem, Inc: A Comment on Certain Points where Cybernetics Impinges on Religion. Cambridge, Mass.: MIT Press.
WILLIAMS, Raymond. (2011). Política do Modernismo. São Paulo: Editora Unifesp.
Sobre o autor
German Alfonso Nunez é pós-doutorando e leciona no Instituto de Artes da Unicamp. Recentemente editou uma coleção sobre os 75 anos do MAM-SP e é coeditor de Barbarian Currents: Documents, Inventories and Ideas from Brazilian Media Arts (Open Humanities Press, no prelo).
