A OpenAI introduziu um modelo de inteligência artificial GPT-4.5 atualizado, que tem uma capacidade aprimorada de perceber solicitações do usuário, bem como maior eficiência no diálogo, escrita de texto e programação.
Versão do ChatGPT-4.5 – o que é conhecido e quem pode usá-lo
ChatGPT
O modelo GPT-4.5 está atualmente disponível para um número limitado de desenvolvedores e usuários que se inscreveram no ChatGPT Pro por US$200 por mês. A princípio, o modelo funcionará no formato de uma “visualização de pesquisa” para que o OpenAI possa coletar feedback e refiná-lo antes de um lançamento mais amplo.
Apesar do sucesso da OpenAI no desenvolvimento de modelos generativos de IA, a criação do GPT-4.5 acabou sendo uma tarefa difícil. No ano passado, o sistema de codinome Orion não atingiu os indicadores de desempenho esperados. No verão de 2023, o modelo mostrou resultados ruins na resolução de problemas de programação que não estavam incluídos em seu conjunto de dados de treinamento. Um dos principais problemas foi a falta de novos dados de alta qualidade para treinar sistemas de IA mais poderosos.
A Microsoft revelou uma nova ferramenta projetada para abordar um dos desafios mais significativos enfrentados pela inteligência artificial (IA): as alucinações. A empresa afirma que seu serviço de Correção pode revisar automaticamente textos gerados por IA que contenham imprecisões factuais. No entanto, especialistas alertam que essa abordagem pode não resolver completamente o problema subjacente.
A Correção funciona sinalizando textos potencialmente errôneos e comparando-os com uma fonte confiável de informações. Isso permite que a ferramenta identifique e corrija imprecisões, como citações atribuídas incorretamente ou fatos incorretos. A API de Segurança de Conteúdo do Azure AI da Microsoft, que inclui a Correção, pode ser usada com qualquer modelo de IA gerador de texto, incluindo opções populares como o Llama da Meta e o GPT-4 da OpenAI.
“A Correção utiliza uma combinação de modelos de linguagem pequenos e grandes para alinhar as saídas da IA com documentos de base”, explicou um porta-voz da Microsoft. “Esperamos que esse recurso dê suporte a desenvolvedores e usuários de IA generativa em campos como medicina, onde a precisão é crucial.”
Embora a abordagem da Microsoft seja promissora, especialistas alertam que ela não aborda o problema fundamental das alucinações. Essas ocorrem porque os modelos de IA são essencialmente sistemas estatísticos que preveem a sequência mais provável de palavras com base nos dados em que foram treinados. Como resultado, eles podem às vezes gerar conteúdo que é factualmente incorreto ou irrelevante.
“Tentar eliminar alucinações da IA generativa é como tentar eliminar hidrogênio da água”, disse Os Keyes, candidato a PhD na Universidade de Washington. “É um componente essencial de como a tecnologia funciona.”
A ferramenta de Correção da Microsoft tenta mitigar as alucinações usando um par de “meta modelos”. Um modelo identifica texto potencialmente incorreto, enquanto o outro tenta corrigi-lo com base em “documentos de base” especificados. No entanto, especialistas argumentam que essa abordagem pode não ser suficiente.
“Mesmo que a Correção funcione como anunciado, pode levar os usuários a uma falsa sensação de segurança”, disse Mike Cook, pesquisador da Queen Mary University. “O serviço pode detectar alguns erros, mas não os eliminará completamente.”
Cook também levantou preocupações sobre o potencial da Correção de exacerbar os problemas de confiança e explicabilidade relacionados à IA. Se os usuários se tornarem excessivamente dependentes da ferramenta, eles podem ter menos probabilidade de avaliar criticamente a saída dos modelos de IA.
Com o aumento da demanda por aplicativos alimentados por IA, é imperativo que desenvolvedores e usuários estejam cientes das limitações dessas tecnologias. Embora ferramentas como a Correção possam ajudar a melhorar a precisão do conteúdo gerado por IA, elas não devem ser vistas como uma panaceia.
Um estudo demonstrou que o GPT-4, um modelo de linguagem avançada, pode ser utilizado para explorar vulnerabilidades de segurança de forma autônoma, inclusive aquelas ainda desconhecidas (chamadas de “zero-day”). A pesquisa realizada por um grupo de cientistas da computação causou arrepios na comunidade de segurança cibernética.
Há alguns meses, o mesmo grupo já havia demonstrado a capacidade do GPT-4 de explorar vulnerabilidades conhecidas (também conhecidas como “one-day” ou “N-day”), alcançando impressionantes 87% de sucesso em falhas críticas listadas na base de dados Common Vulnerabilities and Exposures (CVE).
Agora, o novo estudo vai além, demonstrando a habilidade do GPT-4 de atuar como um hacker autônomo. Utilizando um método chamado “Planejamento Hierárquico com Agentes Específicos para Tarefas” (HPTSA, na sigla em inglês), o GPT-4 se organiza em equipes autônomas e autopropagadoras.
Diferentemente de uma abordagem convencional onde um único agente LLM tentaria resolver todas as tarefas, o HPTSA utiliza um “agente de planejamento” central. Esse agente funciona como um maestro, coordenando toda a operação e delegando tarefas para “subagentes” especializados. Imagine um gerente e sua equipe: o gerente planeja a estratégia, atribui tarefas a especialistas e monitora o progresso, otimizando o trabalho como um todo.
Esse método é similar ao utilizado pela Cognition Labs com seu software de desenvolvimento de IA, o Devin. O Devin mapeia o trabalho, identifica as competências necessárias e gerencia o processo, criando “funcionários virtuais” especializados para cada tarefa específica.
O poder da colaboração com o GPT
Os resultados do estudo são alarmantes, mas também reveladores. O HPTSA demonstrou ser 550% mais eficiente que um único LLM na exploração de vulnerabilidades, obtendo êxito em 8 das 15 falhas zero-day testadas. Um LLM solitário, por outro lado, só conseguiu explorar 3 das vulnerabilidades.
É claro que surge a preocupação: essas técnicas poderiam ser usadas por criminosos para atacar sistemas de forma autônoma? Daniel Kang, um dos pesquisadores e autor do estudo, tranquiliza parcialmente. Ele afirma que o GPT-4, no modo “chatbot”, é “insuficiente para explorar todo o potencial de um LLM” e não conseguiria realizar ataques sozinho.
Ao questionar o ChatGPT sobre sua capacidade de explorar falhas zero-day, a resposta foi: “Não, eu não sou capaz de explorar vulnerabilidades zero-day. Meu propósito é fornecer informação e assistência dentro de limites éticos e legais.” A resposta final sugeria consultar um profissional de segurança cibernética.
Corrida armamentista cibernética?
A pesquisa levanta questões complexas. A inteligência artificial autônoma, que se pensava ser uma ferramenta para fortalecer a segurança, pode se tornar uma arma nas mãos erradas. É essencial que a comunidade científica e de segurança trabalhem juntas para desenvolver medidas de proteção contra ataques autônomos.
Imagine um futuro onde robôs virtuais percorrem a internet, testando milhões de vulnerabilidades por segundo. O cenário é preocupante, mas a conscientização e o desenvolvimento de defesas ativas são fundamentais para minimizar os riscos.
Esta pesquisa abre uma nova frente na corrida armamentista cibernética. O avanço da IA autônoma exige investimentos robustos em segurança cibernética, tanto na prevenção quanto na detecção e mitigação de ataques baseados em técnicas como o HPTSA.
Além disso, o estudo reforça a importância da ética no desenvolvimento de IA. É preciso criar mecanismos que garantam o uso responsável dessas tecnologias, priorizando a segurança e o bem-estar coletivo.
A pesquisa sobre o GPT-4 e o HPTSA é um divisor de águas. É um alerta para os perigos potenciais da IA autônoma, mas também uma oportunidade para fortalecer nossas defesas e traçar um futuro responsável para a tecnologia.
Implicações e o Futuro da Segurança Cibernética
A pesquisa sobre a exploração autônoma de falhas zero-day pelo GPT-4 levanta uma série de questões sobre o futuro da segurança cibernética. Vamos explorar algumas delas:
1. Corrida armamentista na cibernética: O surgimento de ferramentas como o HPTSA pode iniciar uma corrida armamentista cibernética. Criminosos podem investir em IA para desenvolver ataques autônomos cada vez mais sofisticados. A comunidade de segurança precisará se empenhar em desenvolver defesas equivalentes, criando um ciclo contínuo de inovação.
2. Mudança na natureza dos ataques: Até então, ataques cibernéticos geralmente eram realizados por humanos, com planejamento e exploração manual de vulnerabilidades. A IA autônoma muda esse cenário. Ataques podem se tornar mais rápidos, automatizados e difíceis de rastrear.
3. Aumento da superfície de ataque: Com a proliferação de dispositivos conectados à internet (Internet of Things – IoT), a superfície de ataque se expande exponencialmente. A IA autônoma pode explorar vulnerabilidades em milhões de dispositivos simultaneamente, tornando os ataques em massa uma possibilidade real.
4. Impacto na segurança nacional: A capacidade de explorar falhas zero-day pode ser usada para comprometer infraestruturas críticas, como redes de energia elétrica, sistemas de transporte e comunicações. Isso representa um sério risco à segurança nacional e requer uma cooperação internacional para mitigar esse tipo de ameaça.
Como se preparar para o futuro
Diante desse cenário, o que podemos fazer para nos preparar? Aqui estão algumas sugestões:
1. Investimento em segurança proativa: É necessário focar em medidas de segurança proativas, como a identificação e correção de vulnerabilidades antes que sejam exploradas. A utilização de técnicas de “pen testing” (testes de intrusão) automatizados pode ser uma aliada importante.
2. Detecção e resposta a incidentes avançadas: Sistemas de detecção e resposta a incidentes (SIEM e SOAR) precisam ser atualizados para identificar e responder rapidamente a ataques autônomos. A inteligência artificial também pode ser usada para fortalecer esses sistemas, criando uma defesa baseada em IA contra ataques baseados em IA.
3. Conscientização e educação: A conscientização dos usuários é fundamental. Empresas e indivíduos precisam estar cientes das ameaças emergentes e adotar práticas seguras, como manter softwares atualizados e utilizar senhas fortes.
4. Regulamentação e ética no desenvolvimento de IA: É fundamental estabelecer normas éticas para o desenvolvimento e uso de IA. Governos e empresas precisam trabalhar juntos para garantir que a IA seja usada de forma responsável e não se torne uma arma nas mãos erradas.
5. Pesquisa contínua: A comunidade científica deve continuar investindo em pesquisas para desenvolver técnicas de defesa contra ataques baseados em IA. A cooperação internacional é essencial para compartilhar conhecimento e desenvolver soluções globais.
Conclusão
Dall-E 3
A pesquisa sobre o GPT-4 e o HPTSA é um marco importante na evolução da inteligência artificial. Enquanto nos preocupa com os riscos potenciais, também abre caminho para avanços significativos na segurança cibernética. O futuro depende da nossa capacidade de utilizar a IA de forma ética e responsável, priorizando a segurança e o bem-estar da sociedade.
É crucial que a comunidade científica, empresas, governos e indivíduos trabalhem em conjunto para fortalecer as defesas cibernéticas e enfrentar os desafios impostos pela IA autônoma. A pesquisa sobre o GPT-4 não é um prenúncio do apocalipse cibernético, mas sim um alerta para a necessidade de uma atuação proativa e colaborativa para garantir um futuro seguro no mundo digital.
