Home-theater-designers
A Inteligência Artificial (IA) transformará segmentos inteiros de nossa sociedade, gostemos ou não, e isso inclui a World Wide Web.
Com software como o ChatGPT disponível para qualquer pessoa com conexão à Internet, está se tornando cada vez mais difícil separar o conteúdo gerado por IA daquele criado por um ser humano. Ainda bem que temos detectores de conteúdo de IA, certo?
downloads de música grátis para computador legalmenteMAKEUSEDO VÍDEO DO DIA ROLE PARA CONTINUAR COM O CONTEÚDO
Os detectores de conteúdo AI funcionam?
Os detectores de conteúdo de IA são ferramentas especializadas que determinam se algo foi escrito por um programa de computador ou por um ser humano. Se você pesquisar no Google as palavras 'detector de conteúdo AI', verá existem dezenas de detectores por aí, todos alegando que podem diferenciar com segurança entre texto humano e não humano.
A maneira como eles funcionam é bastante simples: você cola um pedaço de escrita e a ferramenta informa se foi gerado por IA ou não. Em termos mais técnicos, usando uma combinação de técnicas de processamento de linguagem natural e algoritmos de aprendizado de máquina, os detectores de conteúdo de IA procuram padrões e previsibilidade e fazem chamadas com base nisso.
Isso parece ótimo no papel, mas se você já usou uma ferramenta de detecção de IA, sabe muito bem que eles são imprevisíveis, para dizer o mínimo. Na maioria das vezes, eles detectam conteúdo escrito por humanos como IA ou texto criado por seres humanos como gerado por IA. Na verdade, alguns são embaraçosamente ruins no que deveriam fazer.
Quão precisos são os detectores de conteúdo de IA?
Se você estiver nos Estados Unidos, o primeiro resultado de pesquisa do Google para 'detector de conteúdo AI' é writer.com (anteriormente conhecido como Qordoba; esta é uma plataforma de conteúdo AI que também possui seu próprio detector). Mas quando você cola uma seção deste aleatório Associated Press artigo na ferramenta, ele afirma que há uma chance muito boa de ter sido gerado por inteligência artificial.
Então, Writer.com entendeu errado.
Para ser justo, outros detectores de conteúdo de IA dificilmente são melhores. Eles não apenas produzem falsos positivos, mas também marcam o conteúdo de IA como humano. E mesmo quando não o fazem, fazer pequenos ajustes no texto gerado pela IA é o suficiente para passar com louvor.
como obter sua sequência instantânea de volta
Em fevereiro de 2023, o professor da Universidade de Wollongong, Armin Alimardani, e o professor associado da UNSW Sydney, Emma A. Jane, testaram vários detectores de conteúdo de IA populares, estabelecendo que nenhum deles é confiável. Em sua análise, publicada em A conversa , Alimardani e Jane concluíram que essa 'corrida armamentista' de IA entre geradores de texto e detectores representará um desafio significativo no futuro, especialmente para educadores.
Mas não são apenas educadores e professores que têm motivos para se preocupar: todo mundo tem. À medida que o texto gerado por IA se torna onipresente, sendo capaz de diferenciar entre o que é 'real' e o que não é, ou seja, detectar quando algo é escrito pela IA , ficará mais difícil. Isso terá um impacto enorme em praticamente todas as indústrias e áreas da sociedade, até mesmo nas relações pessoais.
Implicações da IA para segurança cibernética e privacidade
O fato de não haver mecanismos confiáveis para determinar se algo foi criado por software ou por um ser humano tem sérias implicações para a segurança cibernética e a privacidade.
Atores de ameaças já estão usando ChatGPT para escrever malware , gerar e-mails de phishing, escrever spam, criar sites fraudulentos e muito mais. E embora existam maneiras de se defender contra isso, certamente é preocupante que não haja nenhum software capaz de diferenciar de forma confiável entre conteúdo orgânico e bot.
As notícias falsas também já são um grande problema. Com IA generativa em cena, os agentes de desinformação são capazes de escalar suas operações de maneira sem precedentes. Uma pessoa comum, por sua vez, não tem como saber se algo que está lendo online foi criado por um software ou por um ser humano.
A privacidade é um assunto totalmente diferente. Veja o ChatGPT, por exemplo. Era alimentou mais de 300 bilhões de palavras antes de seu lançamento. Este conteúdo foi retirado de livros, postagens em blogs e fóruns, artigos e mídias sociais. Foi coletado sem o consentimento de ninguém e com total desrespeito à privacidade e proteções de direitos autorais.
Depois, há também a questão dos falsos positivos. Se o conteúdo for sinalizado erroneamente como gerado por IA, isso não poderia levar à censura, que é um problema enorme de qualquer maneira? Sem mencionar o dano que ser acusado de usar texto criado por IA pode causar à reputação de alguém, tanto online quanto na vida real.
Se existe de fato uma corrida armamentista entre IA generativa e detectores de conteúdo, o primeiro está vencendo. O que é pior, parece não haver solução. Todos nós temos nossos produtos incompletos que nem funcionam na metade do tempo ou podem ser enganados com muita facilidade.
Como detectar conteúdo de IA: soluções potenciais
O fato de atualmente não termos respostas reais para esse problema não significa que não teremos nenhuma no futuro. Na verdade, já existem várias propostas sérias que podem funcionar. A marca d'água é uma delas.
Quando se trata de IA e modelos de linguagem profunda, a marca d'água refere-se à incorporação de um tipo de código secreto no texto gerado pela IA (por exemplo, padrão de palavra, estilo de pontuação). Essa marca d'água seria invisível a olho nu e, portanto, quase impossível de remover, mas um software especializado seria capaz de detectá-la.
De fato, em 2022, Universidade de Maryland pesquisadores desenvolveram um novo método de marca d'água para redes neurais artificiais. O pesquisador principal, Tom Goldstein, disse na época que sua equipe conseguiu 'provar matematicamente' que sua marca d'água não pode ser totalmente removida.
Por enquanto, o que uma pessoa comum pode fazer é confiar em seus instintos e bom senso. Se houver algo estranho no conteúdo que você está lendo – se parecer antinatural, repetitivo, sem imaginação, banal – pode ter sido criado por software. Obviamente, você também deve verificar todas as informações que vê online, verificar novamente a fonte e ficar longe de sites obscuros.
A revolução da IA está em andamento
Alguns argumentam que a quinta revolução industrial já chegou, pois a inteligência artificial ocupa o centro do palco no que está sendo descrito como uma convergência do digital e do físico. Seja esse o caso ou não, tudo o que podemos fazer é nos adaptar.
como verificar dms no instagram no computador
A boa notícia é que o setor de segurança cibernética está se ajustando a essa nova realidade e implementando novas estratégias de defesa com IA e aprendizado de máquina em primeiro lugar.