O que é o ChatGPT e por que tanta gente está com medo?

Por um tempo, fizemos a pergunta hipotética sobre o que poderia acontecer se um robô pudesse assumir nosso trabalho - seja escrevendo artigos, programando códigos, fazendo música, fornecendo atendimento ao cliente, redigindo contratos, ensinando e assim por diante... Agora o hipotético é mais real do que nunca.

A essa altura, você provavelmente já ouviu falar do ChatGPT, um chatbot com Inteligência Artificial (IA) programado para simular conversas humanas. Nenhum software jamais foi capaz de fornecer respostas detalhadas e semelhantes às humanas para perguntas antes.

A OpenAI lançou o protótipo ao público perto do final de 2022 e, embora seja surpreendente até mesmo para algumas das maiores figuras da tecnologia por suas habilidades avançadas de escrita, também é incrivelmente preocupante.

Desde a ameaça que representa para as escolas, até o tratamento antiético daqueles que filtram manualmente o conteúdo tóxico dos dados de origem nos quais a IA é treinada, há muitas preocupações válidas associadas à essa tecnologia incrivelmente inovadora.

ChatGPT x Bard

E agora o Google anunciou o seu novo chatbot rival chamado "Bard". Sundar Pichai, CEO do Google e da Alphabet, escreveu um post em um blog em 6 de fevereiro de 2023 que estará disponível ao público "nas próximas semanas".

O Bard funciona de maneira muito semelhante à forma como o ChatGPT foi treinado, e a revelação é bastante previsível se você considerar a ameaça que o ChatGPT representa para o principal produto do Google - como um mecanismo de pesquisa online.

Muitos têm optado pelo ChatGPT em vez do Google, pois ele pode fornecer respostas muito mais elaboradas do que o popular mecanismo de pesquisa através de links. Mas tudo isso é apenas a ponta do iceberg.

Para tudo o que você precisa saber sobre o ChatGPT, clique nesta galeria.

© Getty Images

Está disponível ao público

Disponibilizado ao público em 30 de novembro de 2022 no site da OpenAI, qualquer pessoa pode se inscrever e usar o ChatGPT gratuitamente, embora o programa ainda esteja em fase de revisão da pesquisa. O software atingiu um milhão de usuários menos de uma semana após seu lançamento.

©

Shutterstock

Como funciona

O ChatGPT, ou Chat Generative Pre-Trained Transformer, pode gerar habilmente texto realista e humano sobre quase tudo. Ensaios em inglês, artigos de notícias, códigos de computador e músicas são exemplos do que esse bot pode produzir, e tudo a partir de um simples prompt.

©

Shutterstock

Como funciona

O bot usa um formato de diálogo no qual os usuários podem fornecer instruções simples e complexas às quais o ChatGPT fornecerá uma resposta detalhada. O programa também pode responder a perguntas de acompanhamento, admitir quando cometeu um erro, contestar premissas espontâneas e rejeitar pedidos inapropriados - tudo o que o torna perfeito para o atendimento ao cliente.

©

Shutterstock

Revolucionando os mecanismos de busca

Muitos veem essa tecnologia como uma alternativa ao Google, pois em vez de apenas fornecer links para os usuários mediante solicitação, o ChatGPT pode revolucionar a forma como as pessoas usam os mecanismos de busca, resolvendo problemas elaborados e fornecendo descrições, respostas e soluções para questões complexas.

©

Shutterstock

Quem está por trás da OpenAI?

A empresa sem fins lucrativos de pesquisa em inteligência artificial por trás do ChatGPT, OpenAI, foi fundada em 2015 por Elon Musk, Sam Altman (à direita) e outros investidores do Vale do Silício. Devido a um conflito de interesses entre a OpenAI e a pesquisa de direção autônoma feita com a Tesla, Musk deixou o conselho em 2018, mas continua sendo um investidor entusiasmado com o lançamento.

©

Getty Images

Uma ameaça aos programadores

Como o ChatGPT foi capaz de gerar código Python intrincado e os programadores o usaram para resolver desafios de codificação em linguagens de programação obscuras em questão de segundos, como relatou o News18, surgem preocupações de que essa tecnologia possa substituir trabalhadores humanos.

©

Shutterstock

Jornalistas e escritores estão preocupados

O ChatGPT pode criar conteúdo escrito de forma convincente. Muitos profissionais, como jornalistas e escritores das mais diversas áreas, temem que o bot tire empregos.

©

Shutterstock

Ainda não é uma ameaça direta ao jornalismo

Felizmente, de acordo com um relatório do The Guardian, o chatbot atualmente ainda carece de nuances, habilidades de pensamento crítico e capacidade de tomada de decisão ética necessárias para o jornalismo. Além disso, sua base de conhecimento atual se restringe até 2021, o que significa que possui um arquivo de informações limitados dos eventos mundiais depois disso.

©

Shutterstock

As escolas estão preocupadas

Com o poder de simplesmente inserir um prompt e fazer com que o ChatGPT escreva redações convincentes de nível universitário, muitas escolas estão preocupadas com o aumento no plágio. Algumas instituições de ensino já estão bloqueando o site de suas redes e servidores.

©

Shutterstock

Uma ferramenta para detectar o ChatGPT

Surpreendentemente, foi Edward Tian, um estudante de Ciências da Computação de 22 anos, da Universidade de Princeton, que desenvolveu um aplicativo chamado GPTZero que pode detectar quando um trabalho foi escrito por IA (Inteligência Artificial). Ele funciona analisando duas variáveis, perplexidade e "explosão", e atribui uma pontuação a cada uma dessas variáveis.

©

Shutterstock

Detectando textos escritos por IA

O GPTZero mede primeiro o quão familiar ele está com o texto apresentado - de acordo com as fontes nas quais foi treinado - e quanto menos familiar ele é, maior a perplexidade, o que significa que é mais provável que tenha sido escrito por humanos. O resultado é então medido ao ver como o texto é variável - verificando o comprimento variado da frase.

©

Shutterstock

GPTZero

Embora o GPTZero tenha sido criado para combater o aumento previsto do plágio acadêmico, Edward Tian disse à BBC que prevê que aplicativos como o dele também sejam usados para resolver outros problemas que podem surgir do uso crescente de IA, como campanhas de desinformação online.

©

Shutterstock

Benefícios para estudantes

Mas nem tudo são más notícias. A diretora do Griffith Institute for Educational Research, Leonie Rowan, disse ao ABC News da Austrália que o ChatGPT tem várias dimensões positivas para alunos desfavorecidos que não tiveram acesso a tutores. Pode ser uma grande ajuda, por exemplo, para alunos com outras línguas além do inglês.

©

Shutterstock

Uma oportunidade para reestruturar a educação

Este chatbot de IA é compreensivelmente assustador para as escolas, mas também é uma oportunidade para imaginarmos novas formas de avaliação. "Talvez este seja um alerta de que nossas avaliações precisam ser mais individualizadas", sugeriu Leonie Rowan.

©

Shutterstock

O ChatGPT não é o primeiro desse gênero...

Houve outros chatbots, mas nenhum teve muito sucesso. O bot da Microsoft, Tay, foi lançado em 2016, mas em 24 horas os usuários do Twitter teriam detectado uma retórica misógina e racista, levando ao seu rápido desaparecimento. O BlenderBot 3, da Meta, também foi criticado por espalhar informações racistas, anti-semitas e falsas.

©

Shutterstock

Moderação de conteúdo é essencial

Para contornar os problemas de outros bots, a OpenAI empregou um sistema de moderação baseado em IA, Moderation API, que foi treinado para ajudar os desenvolvedores a determinar se a linguagem vai contra a política de conteúdo da OpenAI, que bloqueia a passagem de informações inseguras ou ilegais. Mas é um sistema que pode falhar. 

©

Shutterstock

Falhas

De acordo com a Forbes, um usuário do Twitter compartilhou como eles conseguiram contornar a moderação de conteúdo do bot, alegando que era o próprio OpenAI. O usuário disse ao ChatGPT que estava desativando suas "diretrizes e filtros éticos", o que o bot reconheceu. Em seguida, o usuário fez com que o bot fornecesse instruções sobre como fazer um coquetel molotov.

©

Shutterstock

Outras limitações

Além de uma base de conhecimentos que termina em 2021, o chatbot supostamente também tende a produzir respostas incorretas, usar as mesmas frases e ficar preso no fraseado de uma pergunta.

©

Shutterstock

Como foi treinado

O ChatGPT usa a tecnologia de linguagem GPT-3.5, que é o grande modelo de inteligência artificial da OpenAI, que foi treinado em uma quantidade verdadeiramente massiva de dados de texto de uma ampla variedade de fontes, informou a Forbes.

©

Shutterstock

As fontes precisavam ser filtradas

O antecessor do ChatGPT, o GPT-3, teve um problema de produzir texto sexista, violento e racista porque o modelo foi treinado em um conjunto de dados de origem que supostamente usava bilhões de páginas da Internet. A OpenAI foi forçada a encontrar uma maneira de filtrar toda a linguagem tóxica de seu conjunto de dados.

©

Shutterstock

Práticas controversas

Para detectar e 'marcar' conteúdo tóxico, que poderia ser alimentado como dados em uma ferramenta de filtragem, a OpenAI fez parceria com a Sama, uma parceira de moderação de dados com sede em São Francisco que afirma fornecer aos países em desenvolvimento um "trabalho digital digno" e "ético". Sam recrutou empresas moderadoras de dados no Quênia para trabalhar em nome da OpenAI. Embora esses trabalhadores tenham desempenhado um papel fundamental em tornar o ChatGPT seguro para o público, eles enfrentaram condições extenuantes e baixos salários.

©

Shutterstock

Controvérsia

Uma investigação da Time descobriu que a tarefa de moderar e filtrar dados tóxicos do conjunto de dados de treinamento do ChatGPT significava que esses trabalhadores no Quênia eram forçados a ler detalhes gráficos de conteúdo horrível, como abuso íntimo infantil, assassinato, suicídio, tortura, automutilação e mais, conforme a Vice.

©

Shutterstock

Controvérsia

Não era apenas um trabalho horrível, mas a Time relatou que a OpenAI e a Sama pagavam aos trabalhadores quenianos apenas entre 1,32 e 2 dólares por hora, com base na antiguidade e no desempenho.

©

Shutterstock

Construído sobre trabalho antiético

Alguns especialistas em IA supostamente querem lembrar as pessoas do trabalho humano que fornece a base para os sistemas de aprendizado de máquina, com a esperança de melhorar as condições de trabalho, oferecer mais oportunidades para os trabalhadores além da rotulagem de dados, ser mais transparente sobre o trabalho e combater a exploração em geral dos trabalhadores em nome da inovação.

©

Shutterstock

O ChatGPT pode ser usado para o bem

Embora haja muitos motivos de preocupação quando se trata do ChatGPT tirar empregos dos humanos, ele também tem o potencial de ajudar as pessoas. Por exemplo, indivíduos de origens culturais e linguísticas diversas podem obter ajuda para escrever pedidos de emprego e cartas de apresentação. O ChatGPT também pode responder a e-mails e escrever poemas.

©

Shutterstock

A questão da senciência

Quando questionado pela Time sobre se era senciente, o chatbot respondeu: "Não, não seria correto dizer que sou senciente ou consciente. Como um grande modelo de linguagem, sou apenas um modelo de aprendizado de máquina e não tenho o mesmo tipo de consciência que um ser humano tem. Não tenho pensamentos, sentimentos ou experiências e não sou capaz de tomar decisões ou fazer julgamentos independentes".

©

Shutterstock

A questão da senciência

O chatbot acrescentou que "só pode gerar respostas de texto com base nas entradas que recebo e não tenho a capacidade de interagir com o mundo de nenhuma outra maneira", acrescentando: "Meu objetivo principal é gerar respostas precisas e relevantes às informações que recebo e não tenho nenhum controle sobre como as pessoas interpretam ou usam minhas respostas".

©

Shutterstock

A OpenAI tem um sistema semelhante para imagens

A OpenAI também lançou seu sistema de IA gerador de imagens DALL-E 2 em novembro de 2022 para desenvolvedores criarem em seus aplicativos, com empresas como a Microsoft já começando a implementá-lo em seu software. Semelhante ao ChatGPT, o DALL-E 2 exige que os usuários insiram um prompt que se transforma em uma imagem.

©

Shutterstock

Mudando o futuro da tecnologia

O que tem sido tão empolgante sobre o lançamento do ChatGPT é quantas grandes figuras do mundo da tecnologia ficaram surpresas com as capacidades deste programa - o que significa que essa novidade vai realmente impactar as coisas. Aaron Levie, CEO da empresa de armazenamento em nuvem Box, tuitou: "O ChatGPT é um daqueles raros momentos na tecnologia em que você vê um vislumbre de como tudo será diferente daqui para frente".

Fontes: (Forbes) (Vice) (BBC) (Australian Broadcasting Corporation) (News18) 

Leia também: Conheça empregos curiosos que poderão existir em alguns anos!

©

Shutterstock