Veja quais são os perigos em usar o ChatGPT


O professor de computação da Faculdade de Computação e Informática (FCI) da Universidade Presbiteriana Mackenzie, Fábio Lopes, explica que o ChatGPT permite interação em linguagem natural, respondendo a perguntas e fornecendo informações com base em um vasto repositório de dados.
A ferramenta pode aprender em diferentes idiomas e oferece respostas construídas a partir da análise de diversos textos.
No entanto, uma das principais limitações é sua capacidade de fornecer informações somente até 2021, ainda que a versão 4.0, que é paga, conta com atualizações mais recentes.
© Foto / geraltInteligência Artificial (imagem de referência)

Inteligência Artificial (imagem de referência) - Sputnik Brasil, 1920, 20.10.2023

Inteligência Artificial (imagem de referência)
No mercado, ferramentas concorrentes, como o Bard, da Google, também estão em constante evolução para oferecer melhores funcionalidades.
Lopes destaca que tais serviços não se limitam a ser apenas um ‘chatbot’, mas representam uma categoria mais avançada de IA. Enquanto os chatbots tradicionais respondem com base em respostas pré-definidas, o ChatGPT e o Bard são capazes de compreender as perguntas e buscar respostas.
E é aqui que a tecnologia ganha novas discussões.
Em entrevista aos jornalistas Thaiana de Oliveira e Maurício Bastos, do podcast Jabuticaba Sem Caroço, o professor ressalta que nem sempre as respostas da ferramenta são corretas ou apropriadas. Como os usuários têm a possibilidade de influenciar o retorno, é fundamental ter discernimento ao avaliar as informações fornecidas.
Jabuticaba Sem Caroço #233 - Sputnik Brasil, 1920, 20.10.2023

Quando se trata de questões legais, Lopes esclarece que, desde que o ChatGPT utilize apenas dados públicos disponíveis na internet, não deverá infringir a Lei Geral de Proteção de Dados (LGPD).
No entanto, ele alerta que o problema pode surgir se a IA tiver acesso a informações sensíveis e não públicas, o que não é o caso atual. “A LGPD fala, por exemplo, que a empresa que tem o meu dado, tem de resguardar eles. Ela não pode tornar público sem o meu consentimento.”

Tem plágio no ChatGPT?

Lopes ressalta que o ChatGPT não copia, mas constrói texto a partir de algoritmos, com base em informações públicas, disponíveis na Internet. “É como se ele estivesse criando com a própria autoria dele.”
Coordenador do Centro de Ensino e Pesquisa em Inovação (CEPI) da Fundação Getúlio Vargas (FGV), Alexandre Pacheco da Silva ressalta que os usuários têm de estar atento aos perigos da ferramenta, sobretudo no uso no trabalho ou educação, por exemplo, já que o ChatGPT e outros serviços semelhantes se encontram em estágio de desenvolvimento e ainda possui uma série de discussões atreladas.
O logotipo da OpenAI é visto em um celular na frente de uma tela de computador que exibe a tela inicial do ChatGPT, 17 de março de 2023, Boston. - Sputnik Brasil, 1920, 08.05.2023

Ele comenta que informações equivocadas produzidas pelo chat, por exemplo, não necessariamente são de responsabilidade da ferramenta ou da empresa que a detém.

“Ela pode inventar informação que não existe, dar informação incompleta ou passar uma falsa impressão sobre algum episódio histórico, por exemplo. Mas o que a gente vai fazer? A gente vai eliminar esse conteúdo? A gente vai corrigir essa informação e dizer que ela não vai poder mais fazer parte de respostas de outros usuários? Mas quantos outros usuários já receberam essa mesma resposta?”

Segundo ele, a IA generativa é uma tecnologia em constante evolução, sendo necessário mapear os riscos associados a ela. “A gente deveria agora estar mapeando quais são os riscos efetivos dessa tecnologia e produzindo boa informação para o debate público, para que eventualmente a gente possa regular com um pouco mais de assertividade, segurança e assim por diante.”
Um dos organizadores do livro “Direito Autoral e Internet”, Silva ressalta que muitos autores não têm devido reconhecimento, mesmo antes do ChatGPT. “A gente tem que se perguntar, na prática, dessa massa de dados disponível hoje na internet, quais são protegidos por direitos autorais?”
Trabalhadores caminham em meio a contêineres no porto de Cingapura, em 14 de abril de 2010 - Sputnik Brasil, 1920, 15.10.2023

Ele observa que a remuneração é complexa e que diferentes tipos de obras podem exigir abordagens distintas.
Em maio, o presidente do Senado, Rodrigo Pacheco (PSD-MG) apresentou projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso da inteligência artificial no Brasil. O texto segue em tramitação e apresenta cinco pilares: princípios; direitos dos afetados; classificação de riscos; obrigações e requisitos de governança; e supervisão e responsabilização.
Outro exemplo, segundo o professor, é a abordagem do Japão em relação aos direitos autorais. No país asiático, o uso de informações para treinamento de IA generativa não é considerado uma violação de direitos autorais. Isso significa que qualquer empresa pode usar obras protegidas para treinar suas ferramentas de IA sem infringir a lei.

Como o ChatGPT pode ajudar no ensino?

Uma das discussões que sempre voltam à tona sobre o uso do ChatGPT é o uso que poderá ser feito no ensino, por alunos e professores.
Para Lopes, no entanto, as práticas negativas são parecidas com as que sempre existiram nas escolas. Um estudante que utiliza o aplicativo de forma equivocada, poderia ser o mesmo que copiava direto do Google ou que transcrevia da enciclopédia Barsa.
No entanto, do ponto de vista da ciência, a ferramenta pode trazer problemas, já que o método científico se baseia em utilizar informações e citar outros autores.
Manuscrito - Sputnik Brasil, 1920, 17.10.2023

Além disso, é sempre preciso tomar cuidado para não manter informações inverídicas ou imprecisas. “Não necessariamente a resposta dele [ChatGPT] é a melhor resposta do mundo ou é uma resposta correta. Já tem várias coisas na internet de gente falando que ‘ele respondeu absurdos, matou pessoas que não morreram’.”
O professor de direito da Fundação Getúlio Vargas (FGV) de São Paulo, Alexandre Pacheco da Silva, explica que, na escola, as atividades pedagógicas utilizam a capacidade de capturar, interpretar e até se apropriar do que é dito. “As inteligências artificiais generativas funcionam da mesma maneira.”

“As equipes de desenvolvimento dessa tecnologia testavam, faziam perguntas, tentavam ver se ele acertava, se ele errava, como é que ele respondia. E dentro desses testes, na medida em que a precisão desses sistemas aumentava, eles consideravam que a tecnologia estava madura para o seu lançamento.”

Novas ferramentas, velha discussão

A discussão sobre o ChatGPT e sua evolução é uma continuação de debates que ocorrem desde a década de 1960, para o professor Fábio Lopes. “Existe um desejo humano de que isso aconteça. Talvez não de todos os humanos, mas existe um desejo de se alcançar esse tipo de tecnologia.”
Seja por exemplos nos filmes, como o computador Hal, do filme “2001 – Uma Odisseia no Espaço”, o Data, de Star Trek, ou o C-3PO, de Star Wars, são inúmeros os exemplos na cultura pop de personagens que trazem consigo discussões éticas sobre a tecnologia.
O CEO da Tesla, Elon Musk, fala antes de revelar o Modelo Y no estúdio de design da Tesla em Hawthorne, Califórnia, 14 de março de 2019 - Sputnik Brasil, 1920, 15.04.2023

Embora a tecnologia tenha avançado consideravelmente, ela ainda está longe de alcançar a consciência e o julgamento humano, de acordo com Lopes. No entanto, a convergência de tecnologias e o desejo humano de alcançar esse tipo de avanço continuam a impulsionar a pesquisa e a inovação nessa área.
“Mas no estágio atual do primeiro tempo tecnológico, nós só estamos colocando palavras em ordem. Ainda a consciência, essa construção nossa de interpretar, de aprofundar, de entender, de criar juízo de valor, essas coisas ainda estão longe de acontecer com essa tecnologia.”
Inteligência Artificial, imagem referencial. - Sputnik Brasil, 1920, 29.03.2023

Fonte: sputniknewsbrasil

Anteriores TCE-MT realiza sessão solene aos 70 anos nesta terça-feira (24)
Próxima Israel recebe autorização para entrar na Faixa de Gaza