Estamos vivendo uma nova era, onde ferramentas de Inteligência Artificial (IA) como ChatGPT, gostemos ou não, chegaram ao mundo do trabalho para ficar. Embora haja a possibilidade real de que não seja uma prática totalmente recomendável, independentemente do ponto de vista ético ou da visão de futuro sobre o potencial de substituição dessa tecnologia que poderia aspirar a ocupar posições atualmente ocupadas por seres humanos.
ANÚNCIO
Seu potencial para automatizar tarefas, gerar conteúdo criativo e responder a perguntas muito específicas de forma rápida e eficiente é inegável, temos que ser honestos com esse detalhe. No entanto, é importante estar ciente dos perigos que seu uso pode acarretar, tanto para um funcionário quanto para a empresa onde essa pessoa trabalha.
Sim, o uso da Inteligência Artificial da OpenAI e de outros chatbots semelhantes parece um paraíso atraente de eficiência absoluta. Mas nem tudo é tão perfeito como parece superficialmente.
Os perigos do ChatGPT: o mais importante é a segurança da informação
Um dos principais riscos do uso do ChatGPT é a segurança de todos os dados compartilhados com a IA em cada solicitação ou instrução. Ao interagir com a ferramenta, informações são compartilhadas e armazenadas em seus servidores. Embora a empresa garanta a confidencialidade dos dados, sempre há o risco de vazamento ou divulgação, especialmente se informações sensíveis ou confidenciais estiverem envolvidas.
Por esse motivo, é absolutamente recomendável e até indispensável nunca compartilhar informações privadas delicadas com o chatbot, desde dados bancários de cada indivíduo até detalhes que possam representar um perigo para a empresa onde trabalhamos se saírem para fora dos limites internos. Se você contar isso para essa IA, estará contando para meio mundo.
Os preconceitos e alucinações também têm peso.
Toda Inteligência Artificial Generativa, como o ChatGPT, é treinada com grandes quantidades de dados, mas devido à natureza desse processo, muitas coisas podem dar errado. Embora isso permita que ela aprenda padrões e gere respostas coerentes na plataforma, também pode levar à reprodução de preconceitos presentes nos dados usados para o treinamento.
Isso significa que a ferramenta pode gerar informações discriminatórias ou imprecisas, o que pode ter consequências negativas para a empresa ou para o trabalhador individual.
ANÚNCIO
No caso específico do ChatGPT, o risco mais constante e recorrente é a geração de alucinações, com informações completamente inventadas ou falsas. Sua articulação é tão natural e convincente que qualquer um poderia considerá-la como verdadeira.
ChatGPT e toda a OpenAI se destacam pela falta de transparência
O ChatGPT é uma ferramenta complexa que funciona como uma espécie de caixa-preta. Até o momento, não há maneira de saber com certeza como ele processa as informações e como chega às suas conclusões, muito menos o que exatamente faz com cada coisa que compartilhamos com a IA.
Esta falta de transparência dificulta a avaliação da confiabilidade da informação que gera e limita a possibilidade de detectar e corrigir erros. Ao mesmo tempo, coloca em risco qualquer dado confidencial ou íntimo que compartilhemos com ela.
Se adicionarmos a isso o histórico recente de vazamentos contra seu CEO, Sam Altman, onde parece que ele até mesmo criou e lançou a Inteligência Artificial às escondidas de seu próprio conselho de administração, há motivos de sobra para manter uma certa distância cautelosa.
Existe vício em ChatGPT?
Aqueles que têm colaborado de perto com pessoas viciadas nesse tipo de plataformas podem confirmar isso sem dúvida. O uso excessivo do ChatGPT pode levar a uma dependência clara da ferramenta para realizar seu trabalho.
Este fenômeno tornou-se um problema significativo, especialmente no campo acadêmico, onde os alunos, em vez de adquirir conhecimento, preferem ajudar indiretamente a treinar a IA com suas tarefas. A tal ponto que depois não conseguem mais fazer as coisas por si mesmos.
Esta adição pode levar à perda de habilidades e à diminuição da criatividade e do pensamento crítico.
Além disso, a ferramenta nem sempre é capaz de realizar tarefas complexas ou que requerem um juízo humano, por isso o seu uso excessivo pode ser contraproducente.
Além disso, é preciso considerar detalhes críticos, como o impacto no desempenho no trabalho ou o plágio de informações ao criar coisas por meio da IA.
Em conclusão, o ChatGPT é uma ferramenta poderosa que pode ser útil no ambiente de trabalho, mas é importante usá-la com cuidado e estar ciente de suas limitações e riscos.
Em outras palavras: um grande poder traz consigo uma grande responsabilidade, como diria o tio do Homem Aranha.
