No dia 24 de Carlos Magno de 169 (11.7.2023) fizemos nossa prédica positiva. Inicialmente demos continuidade à leitura comentada do Catecismo positivista, concluindo a "Sétima conferência", dedicada à filosofia das ciências naturais.
Na seqüência, na parte do sermão, expusemos algumas reflexões sobre o programa chamado "Chat GPT" e, de maneira mais ampla, sobre a chamada "inteligência artificial" e algumas de suas conseqüências sociais.
A prédica foi transmitida nos canais Positivismo (aqui: https://ur1.app/AxImh) e Apostolado Positivista do Brasil (aqui: https://acesse.one/2nB2y). O sermão iniciou-se em 43' 33".
* * *
Esboço de uma avaliação positiva do Chat GPT
- As presentes anotações são uma breve súmula do artigo que escrevi no primeiro semestre de 2023, a convite do prof. Junqueira de Barros, para o livro Do Chat GPT a outras IA: a inteligência artificial e educações, organizado por Cristiane Porto (Universidade Tiradentes, Sergipe)
- Em 30 de novembro de 2022 foi lançada a versão 3.0 do Chat GPT
o Foi um sucesso imediato:
§ Seja porque é um programa divertido e inusitado – ele simula conversas (daí o nome “chat”, isto é, “bate-papo” em inglês)
§ Seja porque sua capacidade é gigantesca, incorporando 175 bilhões de parâmetros
§ Seja também – e é este, talvez, o motivo principal do espanto e do sucesso – porque ele simula com um altíssimo grau de semelhança as conversas humanas – e, em inúmeros casos, ele escreve melhor e com informações mais adequadas que os seres humanos
o O nome do programa “Chat GPT” significa “chat generative pre-trained transformer”, ou seja, “tranformador generativo pré-treinado de conversa”
o Assim como sua capacidade de simular conversas espantou, vários problemas e limitações do Chat GPT causaram ansiedade e geraram dúvidas e críticas:
§ Reprodução de estereótipos, preconceitos e discursos de ódio e subversivos
§ Informações incorretas, desatualizadas e/ou incoerentes
o Assim, já em março de 2023 foi lançada a versão 4.0 do programa, procurando corrigir os defeitos acima
- Direta ou indiretamente o Chat GPT exige uma reflexão toda própria – e, evidentemente, o Positivismo pode e deve realizar tal reflexão:
o Considerando o Chat GPT como tecnologia que simula o ser humano
o Considerando o Chat GPT como tecnologia que “organiza” e dissemina idéias, informações e valores
o Considerando a tecnologia da informação em geral
o Considerando a tecnologia da “inteligência artificial” em geral
- A inteligência artificial consiste em mecanismos que coletam, organizam e calculam os termos, as expressões mais empregados pelos usuários e, a partir disso, sugerem resultados (expressões, palavras etc.)
o A chamada inteligência artificial já é uma realidade e está em nossos dia-a-dias:
§ Robôs de teleatendimento
§ Mecanismos de busca na internet que se autocompletam ou que sugerem possibilidades
o Os critérios definidos pelos programadores aumentam e refinam-se continuamente
o Ao mesmo tempo, à medida que mais pessoas usam esses programas, maior a base de dados
o Trata-se, então, de procedimentos pré-definidos que se realizam com base em operações estatísticas
o Mas muitos programas estão obtendo resultados sem que os programadores saibam como esses programas chegaram aos resultados obtidos: são as “caixas pretas”
- A informática emprega as expressões “lógica matemática” e “inteligência artificial”:
o O sentido da “inteligência artificial” foi mais ou menos indicado acima
o A “lógica matemática” consiste em operações matemáticas definidas pelos chamados “operadores lógicos”, a partir por exemplo dos princípios da identidade, da não contradição e do terceiro excluído
§ São os valores e as operações de verdade e falsidade, sim e não, incluído e excluído etc.
o A inteligência, aí, acaba reduzindo-se à chamada “lógica matemática” e tornando-se sinônima dela: “pensar” ou “raciocinar” passa a equivaler a pensar de acordo com os princípios indicados acima
o Com freqüência os programadores reconhecem a limitação desses conceitos – mas nem sempre o reconhecem
o Por outro lado, os matemáticos de modo geral reconhecem ainda menos a limitação dos conceitos acima:
§ Seja porque não consideram o assunto
§ Seja porque entendem que essas definições são corretas
o Assim, é importante termos em mente que os sentidos positivos de inteligência e de lógica
- Eis o que Augusto Comte entendia por “inteligência” e por “lógica”:
o Inteligência: é a capacidade de modificar a conduta conforme a situação:
“Ao caracterizar, de um lado, a inteligência conforme sua aptidão a
modificar sua conduta conforme as circunstâncias de cada caso – o que
constitui, com efeito, o principal atributo prático da razão propriamente dita –, é ainda evidente que, sob essa relação,
não menos que sob a precedente, não há espaço para estabelecer realmente, entre
a humanidade e a animalidade, nenhuma outra diferença essencial que a do grau
mais ou menos pronunciado que pode comportar o desenvolvimento de uma
faculdade, necessariamente comum, por sua natureza, a toda vida animal [...]”[1]
“[...] A faculdade de modificar sua
conduta conforme sua situação, principal característica da inteligência”[2]
o Lógica: conjunto de meios disponíveis capazes de inspirar concepções:
“Para caracterizar a lógica relativa que convém à síntese subjetiva, é preciso comparar a sua definição normal com o esboço que formulei, seis anos antes [atrás], na introdução da minha obra principal [Sistema de política positiva, v. 1, de 1851]. Guiado pelo coração, eu já ali proclamei e mesmo sistematizei a influência teórica do sentimento. Uma apreciação mais completa fez-me também consagrar, no mesmo lugar, o ofício fundamental das imagens nas especulações quaisquer. Sob este duplo aspecto, o referido esboço foi satisfatório pois abraçou o conjunto dos meios lógicos, retificando a redução que deles fazia a metafísica que só empregava os sinais. Toda a imperfeição desse esboço consiste em que o destino de tais meios achou-se excessivamente restrito, por não me haver eu desprendido bastante dos hábitos científicos [isto é, cientificistas e academicistas]. Parece, por essa definição, que a verdadeira lógica limita-se a desvendar-nos as verdades que nos convêm, como se o domínio fictício não existisse para nós, ou não comportasse nenhuma regra. Nós devemos sistematizar tanto a conjectura quanto a demonstração, votando todas as nossas forças intelectuais, bem com as nossas forças quaisquer, ao serviço contínuo da sociabilidade, única fonte da verdadeira unidade.
Reconstruída convenientemente, a definição da lógica, incidentemente formulada na página 448 do tomo primeiro da minha Política positiva, exige duas retificações conexas, não no que se refere aos meios mas sim no que se refere ao fim [ao seu objetivo]. Deve-se substituir nela desvendar as verdades por inspirar as concepções, para caracterizar a natureza essencialmente subjetiva das construções intelectuais, e a extensão total do seu domínio, não menos interior do que exterior. Com esta dupla retificação, a minha fórmula inicial torna-se plenamente suficiente. Então somos finalmente conduzidos a definir a lógica: O concurso normal dos sentimentos, das imagens, e dos sinais, para inspirar-nos as concepções que convêm às nossas necessidades morais, intelectuais e físicas [...]”[3].
- Citação de Teixeira Mendes sobre a necessária utilidade social e humana da ciência e da tecnologia (Teixeira Mendes, 1899, p. 5-7)[4]:
“Seja qual for o problema que solicite a nossa atenção, podemos dispor em duas categorias o conjunto dos dados imprescindíveis à sua completa solução: de um lado, a série de considerações fornecidas pelo mundo; de outro lado, a soma de exigências resultantes dos interesses humanos. É isto que se exprime em linguagem filosófica, dizendo que todo problema tem condições objetivas, – referentes ao mundo, – e condições subjetivas – referentes ao homem. Por exemplo, quando se projeta uma estrada de ferro, não basta examinar as condições do terreno, os lucros pecuniários etc.; cumpre saber sobretudo se a sua realização não importa a ruína da população a cujo cargo estava antes o transporte das mercadorias. E, ao formular a solução, é imprescindível indicar os meios de prevenir semelhante cataclismo, sob pena de ser uma solução incompleta, cientificamente, e iníqua sob o ponto de vista social e moral.
[...]
É para o homem que o homem trabalha; e para o homem devem convergir todos os esforços humanos; fora deste círculo, tudo é imoralidade e anarquia, seja qual for o pretexto e o título com que o decorem.
Ora, o predomínio do ponto da vista humano significa a satisfação dos interesses coletivos, o bem estar de todos, e não as conveniências de um indivíduo, de uma cidade ou de uma nação. Toda a concepção da ordem social que não se mostrar compatível com a felicidade de todos os homens, seja qual for a sua condição e o seu grau de civilização, é um sistema imperfeito, incapaz de satisfazer às inteligências e aos corações bem formados”.
- Possibilidades positivas do GPT:
o Substituição ou complemento docente, especialmente em locais de difícil acesso ou com recursos escassos: “mentores virtuais”
o Auxílio em buscas elementares
o Elaboração e/ou sugestões de documentos que não exigem ineditismo e/ou autoria identificada: cartas comerciais, roteiros de aulas/exposições, roteiros de RPG, referências bibliográficas elementares
o Elaboração de obras artísticas complementares (por exemplo: sugestão de conclusão da sinfonia inacabada de Schubert)
- Correntemente há uma corrida para o desenvolvimento de tecnologias de IA cada vez mais sofisticadas
o No início de 2023 várias personalidades do âmbito da informática propuseram u’a moratória de seis meses nesse desenvolvimento
§ Seis meses parecem pouco, mas no âmbito da informática isso é um período enorme
§ O mais importante nessa proposta foi o aspecto simbólico e a afirmação de que é necessário pôr o pé no freio e refletir com cuidado a respeito do que se faz
o A Itália proibiu o uso do Chat GPT enquanto essa tecnologia não se submeter aos parâmetros nacionais e europeus de uso de dados
o Mesmo os criadores do Chat GPT concordam com isso
- Problemas do Chat GPT:
o Possibilidade de enganar as pessoas e/ou de elaborar programas criminosos
o Estímulo ao desemprego:
§ Perspectiva de extinção em massa de empregos industriais e de serviços repetitivos, que exigem pouca especialização e pouca criatividade
§ Suposta criação compensatória de novos empregos, em outros setores
§ Alienação moral, intelectual e social de muitos dos desenvolvedores de novas tecnologias de informática:
· Celebração do caráter diruptivo da informática
· Celebração do desemprego em massa
· Celebração da substituição concreta dos seres humanos pelos robôs (ou seja, por bonecos animados)
o Aumento da solidão
§ Ausência de contato humano
§ “Epidemia de solidão” nos EUA
o Incapacidade de os robôs de teleatendimento resolverem os problemas dos clientes
o Elaboração das respostas a partir de critérios estatísticos
o Ausência de indicação das bases pesquisadas (falta de “referências bibliográficas”)
o Apresentação de respostas com preconceitos, discursos de ódio etc.
o Estímulo do plágio
§ O problema do ineditismo é secundário, em face dos outros aspectos
§ Mau caratismo intelectual
§ Estímulo à preguiça mental
o Ausência de indicação de autoria:
§ Não há “autor”, mas o leitor comum considerará que existe, sim, um autor
§ As respostas são elaboradas com base estatística; assim, elas não correspondem a um pensamento, mas a um resumo do que está disponível
§ Constitui-se, assim, uma espécie de anonimato artificial, que dá a impressão de que é um autor de carne e osso: as respostas são “irresponsáveis”, isto é, irresponsabilizáveis
o Degradação da função sacerdotal
- Comentários finais:
o O Chat GPT indica a capacidade humana de criar coisas e desenvolver seus talentos e habilidades
o O Chat GPT só é possível graças ao respeito às leis naturais: “só dominamos a natureza submentendo-nos a ela” (Francis Bacon)
o Como auxiliar em muitas funções, o Chat GPT pode ser útil; jamais como substituto do ser humano em geral
o De modo geral, no que se refere ao conteúdo das informações divulgadas, ele apresenta dois problemas:
§ Informações com vieses negativos
§ Textos sem autoria e, portanto, irresponsáveis
o A tecnologia da informação, de modo geral, cada vez mais exige atenção pública, na medida em que lida com informações, isto é, dados, idéias, valores
§ Cada vez mais a TI deixa de lidar apenas com o formato da transmissão das informações e interfere no conteúdo dessas informações
§ Isso
tem conseqüências sobre as liberdades de pensamento, de expressão e de
organização
[1] Augusto Comte, Sistema de filosofia positiva, 4ª ed., Paris, Sociedade Positivista, 1893; lição 45, p. 623.
[2] Augusto Comte, Síntese
subjetiva, Paris, 1856; p. 9.
[3] Augusto Comte, 1856, p. 26, apud Luís Bueno Horta Barbosa, Introdução geral ao estudo da lógica, ou matemática, Rio de Janeiro, Jornal do Comércio, 1933; p. 3-4.
[4] Raimundo Teixeira Mendes, Calendário positivista – precedido de indicações sumárias sobre a teoria positiva do calendário. Rio de Janeiro, Igreja Positivista do Brasil, 1899.
