CenárioMT

Tag: OpenAI

  • OpenAI vai te proibir de enganar o ChatGPT

    OpenAI vai te proibir de enganar o ChatGPT

    A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, implementou uma nova medida de segurança para evitar manipulações indesejadas em seus modelos de linguagem. A técnica, denominada “hierarquia de instruções”, visa proteger os comandos originais dos desenvolvedores de possíveis interferências maliciosas por parte dos usuários.

    Até então, era possível “reiniciar” um chatbot personalizado, fazendo-o esquecer suas funções originais. Bastava um simples comando para que a inteligência artificial voltasse ao estado padrão, ignorando as instruções específicas fornecidas pelo desenvolvedor. Essa brecha de segurança permitia que usuários maliciosos comprometessem a integridade do sistema.

    Com a nova atualização, a OpenAI estabelece uma ordem de prioridade nas instruções, dando precedência absoluta aos comandos originais. Tentativas de alterar esse padrão serão bloqueadas, e o chatbot responderá de forma a indicar que não pode atender à solicitação.

    A medida está sendo inicialmente aplicada ao modelo GPT-4o Mini, mas a expectativa é que seja expandida para toda a linha de produtos da empresa caso os testes sejam bem-sucedidos.

    Essa iniciativa é uma resposta direta às crescentes preocupações sobre segurança em inteligências artificiais. A capacidade de manipular um chatbot pode levar a vazamentos de informações confidenciais, disseminação de desinformação e outros danos. A OpenAI busca, assim, fortalecer os mecanismos de proteção de seus modelos, garantindo um uso mais seguro e responsável da tecnologia.

    No entanto, especialistas alertam que o desafio de controlar inteligências artificiais complexas ainda é grande. A descoberta de novas vulnerabilidades é uma possibilidade constante, exigindo um monitoramento contínuo e desenvolvimento de soluções adaptáveis.

    A medida da OpenAI representa um passo importante, mas é apenas o início de uma jornada para garantir a segurança dessas poderosas ferramentas.

  • GPT-4o Mini: O pequeno gigante da IA

    GPT-4o Mini: O pequeno gigante da IA

    A recente estreia do GPT-4o mini, versão mais compacta e acessível do poderoso GPT-4o, tem causado um verdadeiro terremoto no universo dos chatbots. Em apenas uma semana desde seu lançamento, o modelo da OpenAI já escalou os rankings da LMSYS Chatbot Arena, deixando para trás gigantes como Claude 3.5 Sonnet e Gemini Advanced.

    A LMSYS Chatbot Arena é uma plataforma colaborativa onde usuários podem avaliar modelos de linguagem de grande escala (LLMs) comparando diretamente suas respostas sem conhecer seus nomes. É como um ringue de luta, mas com palavras.

    O que torna o feito do GPT-4o mini ainda mais impressionante é seu custo: 20 vezes menor que seu antecessor. Naturalmente, isso gerou surpresa e até mesmo ceticismo entre alguns usuários. Como um modelo tão novo e aparentemente mais simples poderia superar concorrentes mais estabelecidos?

    A LMSYS veio a público explicar que a posição de um modelo na arena é determinada pelas preferências humanas, baseadas em votos. Ou seja, o que importa é o que os usuários acham melhor, não necessariamente as especificações técnicas.

    Para aqueles interessados em uma análise mais detalhada, a plataforma oferece a possibilidade de comparar modelos em categorias específicas, como codificação, respostas a prompts complexos e consultas mais longas. Nessas avaliações mais focadas, a hierarquia pode mudar. Por exemplo, enquanto o GPT-4o mini é o terceiro melhor em codificação, ele lidera em categorias como conversas de múltiplas trocas e consultas extensas.

    Quer experimentar o GPT-4o mini por si mesmo? Basta acessar o site do ChatGPT e fazer login na sua conta OpenAI. Se preferir participar da arena e deixar a sorte escolher os modelos para comparação, visite o site da LMSYS Chatbot Arena e comece a interagir.

    Essa é a prova de que tamanho não é tudo quando se trata de inteligência artificial. Esse pequeno, mas poderoso modelo está desafiando conceitos pré-estabelecidos e mostrando que o futuro da tecnologia pode ser mais acessível do que imaginávamos.

  • Gemini: Google expande acesso e melhora desempenho do Chatbot

    Gemini: Google expande acesso e melhora desempenho do Chatbot

    A Google anunciou nesta quinta-feira uma série de melhorias em seu chatbot baseado em inteligência artificial, o Gemini. A atualização busca tornar a plataforma mais rápida, acessível e precisa, intensificando a competição no mercado de IA generativa dominado por empresas como OpenAI e Anthropic.

    O Gemini 1.5 Flash, uma versão mais leve do modelo multimodal apresentado em maio, estará disponível gratuitamente na web e em dispositivos móveis em 40 idiomas e cerca de 230 países. A gigante da tecnologia afirma que essa versão apresenta melhorias significativas em qualidade e velocidade de resposta, especialmente nas áreas de raciocínio e compreensão de imagens.

    Além disso, a Google aumentou o contexto que o Gemini pode processar de uma só vez para 32 mil tokens, o equivalente a aproximadamente 24 mil palavras. Essa expansão permite que o chatbot analise e resuma textos mais longos, além de melhorar a continuidade das conversas.

    Outra novidade é a possibilidade de upload de arquivos para análise, uma função antes restrita à versão paga do Gemini. Agora, usuários poderão enviar documentos do Google Drive ou dispositivos locais para o chatbot processar.

    Para combater as famosas “alucinações” – respostas incorretas ou inventadas –, a Google está testando um recurso que exibe links para conteúdo relacionado abaixo de determinadas respostas geradas pelo Gemini. A medida visa aumentar a transparência sobre as fontes de informação utilizadas pelo chatbot.

    A empresa também está expandindo o acesso ao Gemini em outras plataformas. O chatbot estará disponível no aplicativo de mensagens em mais países, incluindo a Europa, e será lançado para adolescentes em todo o mundo.

    No entanto, a Google enfatiza que implementará medidas de segurança adicionais para proteger os jovens usuários. A empresa reconhece os potenciais riscos do uso indevido da IA por adolescentes, como plágio e obtenção de informações inadequadas.

    Com essas mudanças, a Google busca consolidar sua posição no competitivo mercado de chatbots e oferecer uma ferramenta mais eficiente e acessível aos usuários.

  • SearchGPT: OpenAI desafia google com nova ferramenta de busca impulsionada por IA

    SearchGPT: OpenAI desafia google com nova ferramenta de busca impulsionada por IA

    A OpenAI, empresa responsável pelo ChatGPT, anunciou nesta quinta-feira o lançamento de um novo buscador experimental chamado SearchGPT. Utilizando inteligência artificial generativa para processar consultas e fornecer respostas, o produto representa uma potencial ameaça à hegemonia do Google no mercado de buscas online.

    Inicialmente, o SearchGPT estará disponível apenas para um grupo selecionado de usuários e parceiros editoriais. A empresa revelou que a intenção é, eventualmente, integrar os recursos de busca diretamente ao ChatGPT, em vez de oferecer um produto independente.

    A nova ferramenta promete oferecer resultados de busca mais conversacionais e atualizados, além de apresentar links claros para as fontes de informação. No entanto, a capacidade do SearchGPT de apresentar e citar corretamente as fontes de informação levanta preocupações sobre possíveis conflitos com editores, especialmente considerando as recentes ações judiciais contra a OpenAI por acusações de violação de direitos autorais.

    A competição do SearchGPT

    SearchGPT: OpenAI desafia google com nova ferramenta de busca impulsionada por IA

    A OpenAI não está sozinha nessa corrida pela supremacia da busca por meio da IA. Google e Microsoft, principal investidor da OpenAI, também têm desenvolvido seus próprios recursos de busca impulsionados por inteligência artificial. A Microsoft incorporou a tecnologia da OpenAI ao seu buscador Bing, enquanto o Google lançou recentemente o recurso AI Overviews, que resume conteúdos de resultados de busca sem a necessidade de clicar em outros sites.

    Essa nova fronteira da busca online também tem gerado críticas de editores e criadores de conteúdo, preocupados com a possibilidade de perda de tráfego e receita publicitária devido aos resumos gerados automaticamente pelos buscadores.

    O lançamento do SearchGPT ocorre em um momento crucial para o Google, que enfrenta um processo antitruste do Departamento de Justiça dos Estados Unidos por suposto monopólio do mercado de buscas. A entrada de novos competidores, como a OpenAI, pode intensificar a pressão sobre a gigante da tecnologia.

  • Denúncias: OpenAI impedia funcionários de reportarem riscos de segurança

    Denúncias: OpenAI impedia funcionários de reportarem riscos de segurança

    Um grupo de denunciantes da OpenAI entrou com uma queixa junto à Comissão de Valores Mobiliários dos Estados Unidos (SEC) alegando que a empresa impedia seus funcionários de alertarem os reguladores sobre os riscos que sua tecnologia de inteligência artificial poderia representar para a humanidade.

    De acordo com uma carta de sete páginas obtida pelo The Washington Post, os denunciantes afirmam que a OpenAI fornecia aos seus funcionários acordos restritivos de emprego, rescisão e sigilo.

    Segundo esses acordos, se os funcionários levantassem preocupações sobre a empresa a reguladores federais, eles poderiam sofrer penalidades.

    A OpenAI, criadora da popular ferramenta de IA ChatGPT, obrigava seus funcionários a assinar acordos que exigiam a renúncia aos seus direitos federais de compensação como denunciante, entre outras restrições para funcionários que procurassem trabalhar com reguladores ou agências federais.

    Os denunciantes afirmam em sua carta que “dados os riscos associados ao avanço da IA, há uma necessidade urgente de garantir que os funcionários que trabalham com essa tecnologia entendam que podem apresentar queixas ou abordar preocupações às autoridades regulatórias ou policiais federais”.

    O jornal The Hill entrou em contato com a OpenAI para obter comentários, mas um porta-voz disse ao Washington Post que sua política de denúncias protege o direito dos funcionários de fazerem revelações.

    “Além disso, acreditamos que o debate rigoroso sobre essa tecnologia é essencial e já fizemos mudanças importantes em nosso processo de saída para remover termos de não difamação”, disse a porta-voz da OpenAI, Hannah Wong.

    Um dos denunciantes conversou com o Washington Post e disse que não acredita que as empresas de IA possam construir tecnologia “segura e de interesse público se se protegerem do escrutínio e da dissidência”.

    À medida que as empresas de tecnologia de IA emergem e mudam, tem havido preocupações de que elas estejam fazendo isso pelos motivos errados. Há poucos dias, a Microsoft abriu mão de seu assento no conselho da OpenAI, alegando que sua participação não é mais necessária devido a preocupações com violações antitruste.

  • Strawberry, o projeto secreto avançado da OpenAI

    Strawberry, o projeto secreto avançado da OpenAI

    No universo da inteligência artificial, a OpenAI se destaca como pioneira, impulsionando os limites do que é possível com suas criações inovadoras. E o projeto Strawberry, ainda em desenvolvimento, se configura como mais um marco nessa jornada, prometendo revolucionar o panorama da IA com habilidades de raciocínio aprimoradas e autonomia sem precedentes.

    Rumo à inteligência artificial completa: O cerne do Strawberry

    Strawberry, o projeto secreto avançado da OpenAI

    O projeto Strawberry, anteriormente conhecido como Q*, busca dotar os modelos de IA da OpenAI com capacidades de raciocínio equivalentes às humanas. Isso significa ir além da mera geração de respostas a perguntas, transcendendo para a autonomia na navegação pela internet e na realização de pesquisas complexas. Essa conquista representa um salto gigantesco, pois os modelos de IA atuais frequentemente se deparam com dificuldades em solucionar problemas que exigem bom senso e planejamento estratégico.

    Treinamento aprimorado: Refinando os modelos de IA

    O documento interno da OpenAI revela que o Strawberry funciona como um programa de “treinamento pós-graduação” para seus modelos de IA. Após serem treinados em conjuntos de dados massivos, os modelos passam por essa etapa adicional para aprimorar suas habilidades de raciocínio.

    Domínio da Pesquisa Profunda: Expandindo as fronteiras do conhecimento

    Strawberry, o projeto secreto avançado da OpenAI

    Uma das funções essenciais do Strawberry é possibilitar a execução de tarefas de “longo horizonte”, que exigem planejamento e a capacidade de realizar ações ao longo do tempo. Para alcançar esse objetivo, a OpenAI está criando um conjunto de dados específico para pesquisa profunda e treinando seus modelos para navegar autonomamente na internet, coletar informações e realizar pesquisas como um cientista experiente.

    Impacto e preocupações: Uma reflexão necessária

    O potencial do projeto Strawberry é inegável, abrindo caminho para uma nova era de inteligência artificial. No entanto, essa ambição também levanta questionamentos. Especialistas como Yann LeCun da Meta questionam se os modelos de linguagem atuais realmente possuem a capacidade de alcançar o raciocínio humano.

    Seguindo em Frente: A OpenAI na vanguarda da inovação

    Strawberry, o projeto secreto avançado da OpenAI
    Dall-E 3

    Apesar das dúvidas, a OpenAI se mantém na vanguarda da pesquisa em inteligência artificial. O projeto Strawberry representa um passo crucial na jornada para dotar as máquinas de habilidades cognitivas cada vez mais sofisticadas, moldando o futuro da tecnologia e da sociedade como um todo.

  • Meta desafia OpenAI com Llama 3: Um rival digno do GPT-4?

    Meta desafia OpenAI com Llama 3: Um rival digno do GPT-4?

    A Meta está prestes a lançar o maior modelo Llama de sua história, e isso pode ser um divisor de águas.

    Já conhece o GPT-4? Prepare-se para um forte concorrente de código aberto!

    Meta desafia OpenAI com Llama 3: Um rival digno do GPT-4?

    Em abril de 2024, a Meta lançou o Llama 3, a última versão de seus modelos de linguagem avançados baseados em inteligência artificial. O Llama 3 utiliza um conjunto de dados pelo menos sete vezes maior que o Llama 2, superando no lançamento modelos como o próprio Llama 2, o Gemma (também open-source do Google) e o Anthropic Claude Sonnet (que posteriormente recebeu uma atualização tornando-se uma das LLMs mais poderosas).

    Mas as novidades não param por aí. Vazamentos apontam para o lançamento iminente dos modelos Llama 3 mais poderosos, treinados com mais de 400 bilhões de parâmetros. Esses titãs da linguagem artificial fazem parte de uma série de projetos da Meta que utilizam centenas de milhares de GPUs Nvidia H100.

    Em testes iniciais, o Llama 3 400B ajustado por instruções alcançou 86,1 no benchmark MMLU, ficando praticamente no mesmo patamar do GPT-4, mas utilizando menos da metade dos parâmetros.

    Simplificando: por que isso é tão importante?

    Meta desafia OpenAI com Llama 3: Um rival digno do GPT-4?
    Dall-E 3

    Simplificando, modelos de linguagem grandes com mais parâmetros tendem a ter melhor desempenho em tarefas do mundo real e em testes padronizados. O fato de o Llama 3 400B quase igualar a pontuação MMLU do GPT-4 com menos de 50% dos parâmetros sugere que a Meta avançou significativamente na arquitetura e treinamento de modelos, podendo competir de igual para igual com a OpenAI.

    Ao alcançar desempenho equivalente com menos parâmetros, o Llama 3 400B deve ser muito mais eficiente do que o ChatGPT-4 da OpenAI em termos de recursos computacionais, consumo de energia e custo.

  • Atraso no lançamento do assistente de voz do ChatGPT levanta questões de segurança

    Atraso no lançamento do assistente de voz do ChatGPT levanta questões de segurança

    A OpenAI, empresa de inteligência artificial (IA), adiou o lançamento de novos recursos de voz para o ChatGPT. Inicialmente previsto para este mês, o lançamento amplo deve acontecer apenas no outono (do hemisfério norte).

    O motivo do atraso, anunciado na terça-feira pela OpenAI, é a necessidade de mais testes de segurança para as funcionalidades de voz e leitura de emoções.

    Esses recursos causaram agitação entre usuários do ChatGPT quando demonstrados pela empresa no mês passado. No entanto, a empolgação também gerou polêmica: a atriz Scarlett Johansson chegou a ameaçar a OpenAI com um processo judicial, alegando que sua voz foi copiada para uma das personas de inteligência artificial da companhia.

    Inicialmente, a OpenAI planejava oferecer os novos recursos para alguns assinantes pagantes no final de junho. Agora, esse lançamento inicial será adiado em um mês. A versão final, disponível para todos os usuários pagos, chegará no outono, ressalta a empresa em comunicado. No entanto, a OpenAI frisa que “o cronograma exato depende do cumprimento de nossos rigorosos padrões de segurança e confiabilidade”.

    No final do ano passado, a OpenAI introduziu a capacidade do ChatGPT de falar com diversas vozes sintéticas, chamadas de “personas”. A demonstração de maio utilizou uma dessas vozes para apresentar o GPT-4o, um sistema de IA mais avançado. Com o GPT-4o, o chatbot falava em tons expressivos, respondia ao tom de voz e expressões faciais do interlocutor e conduzia conversas mais complexas. Uma das vozes, chamada Sky pela OpenAI, lembra a voz de uma assistente virtual interpretada por Johansson no filme “Her” (2013), que conta a história de um homem solitário que se apaixona por sua IA.

    O CEO da OpenAI, Sam Altman, negou que a empresa tenha treinado o chatbot usando a voz de Johansson. Segundo o Washington Post, reportagens do mês passado baseadas em registros internos e entrevistas com diretores de elenco e o agente da atriz, a OpenAI contratou outro ator para fornecer o áudio de treinamento.

  • Concorrência para a OpenAI? Ex-chefe cientista cria nova empresa de IA priorizando segurança

    Ilya Sutskever, cofundador e ex-chefe científico da OpenAI, está embarcando em um novo empreendimento focado em segurança no campo da inteligência artificial. Na quarta-feira, Sutskever revelou a Safe Superintelligence Inc. (SSI), uma startup com “um objetivo e um produto”: criar um sistema de IA seguro e poderoso.

    O anúncio descreve a SSI como uma empresa que “aborda segurança e capacidades em conjunto”, permitindo o rápido avanço de seu sistema de IA, sempre priorizando a segurança. Também critica a pressão externa enfrentada por equipes de IA em empresas como OpenAI, Google e Microsoft, afirmando que o “foco singular” da SSI permite evitar “distrações por burocracia gerencial ou ciclos de produtos”.

    “Nosso modelo de negócio significa que segurança, proteção e progresso estão todos isolados de pressões comerciais de curto prazo”, diz o anúncio. “Dessa forma, podemos crescer com tranquilidade.” Além de Sutskever, a SSI é cofundada por Daniel Gross, ex-líder de IA da Apple, e Daniel Levy, que anteriormente trabalhou como membro da equipe técnica.

    A nova rivalidade, SSI vs OpenAI

    Concorrência para a OpenAI? Ex-chefe cientista cria nova empresa de IA priorizando segurança

    No ano passado, Sutskever liderou a investida para derrubar o CEO da OpenAI, Sam Altman. Sutskever deixou a OpenAI em maio e deu indícios do início de um novo projeto. Logo após a saída de Sutskever, o pesquisador de IA Jan Leike anunciou sua renúncia da OpenAI, citando processos de segurança que “ficaram em segundo plano para produtos chamativos”. Gretchen Krueger, pesquisadora de políticas da OpenAI, também mencionou preocupações com segurança ao anunciar sua saída.

    Com a OpenAI avançando em parcerias com Apple e Microsoft, provavelmente não veremos a SSI fazer o mesmo tão cedo. Durante uma entrevista com a Bloomberg, Sutskever disse que o primeiro produto da SSI será a superinteligência segura, e a empresa “não fará nada mais” até então.

  • OpenAI em choque: Mudança para fins lucrativos e IPO podem abrir caminho para integração com o iPhone e rivalizar com Samsung!

    OpenAI em choque: Mudança para fins lucrativos e IPO podem abrir caminho para integração com o iPhone e rivalizar com Samsung!

    Enquanto o mundo da IA aguarda uma implementação mais ampla dos recursos do ChatGPT-4 e a eventual transição para o ChatGPT-5, a empresa controladora OpenAI pode estar passando por uma mudança própria.

    De acordo com reportagem inicial do The Information, o fundador e CEO da OpenAI, Sam Altman, teria dito aos acionistas que a companhia de IA pode deixar de ser uma organização sem fins lucrativos para se tornar uma corporação beneficente com fins lucrativos. Isso a tornaria similar às estruturas de empresas rivais de IA sediadas nos Estados Unidos, como Anthropic (criadora do Claude 3) e xAI de Elon Musk (criadora do Grok).

    A mudança para o status de empresa com fins lucrativos faz sentido para a OpenAI, que vem atuando cada vez mais como uma companhia orientada a lucros, com uma avaliação de US$ 80 bilhões. A missão sem fins lucrativos da empresa e a natureza fechada do ChatGPT também geraram críticas de figuras como Elon Musk, embora ele recentemente tenha retirado seu processo contra a OpenAI.

    Por que um IPO da OpenAI é importante

    Mais importante que a percepção, a mudança para uma corporação beneficente com fins lucrativos poderia permitir que a OpenAI abrisse seu capital na bolsa de valores (IPO). Há apenas quatro dias, a próspera empresa de IA anunciou a contratação de Sarah Friar como sua primeira diretora financeira, gerando especulações sobre um possível IPO no futuro.

    Um IPO permitiria à OpenAI captar mais recursos e contratar novos talentos rapidamente. Na minha opinião, o momento não poderia ser melhor, já que a principal fabricante de smartphones está prestes a se aliar ao principal chatbot de IA. O iOS 18 da Apple deve apresentar integração com o ChatGPT, e o uso da ferramenta pode atingir seu pico junto com os recursos. Isso se tornará uma vantagem crucial para os celulares topo de linha da Apple, como o iPhone 15 Pro Max e, em breve, o iPhone 16, em relação ao Samsung Galaxy S24 Ultra, que possui alguns recursos de IA como resumos e edição de fotos, mas não pode responder a perguntas por meio de um LLM (Large Language Model).

    Ainda estamos longe de um possível pedido de IPO da OpenAI, e a estrutura de fins lucrativos só está sendo discutida em comentários informais e especulações sobre novas contratações de executivos. Mas os sinais e motivos sugerem que isso pode acontecer.

    A possível mudança da OpenAI para fins lucrativos e um IPO iminente sinalizam um futuro empolgante para a empresa.

    OpenAI em choque: Mudança para fins lucrativos e IPO podem abrir caminho para integração com o iPhone e rivalizar com Samsung!
    OpenAI em choque: Mudança para fins lucrativos e IPO podem abrir caminho para integração com o iPhone e rivalizar com Samsung!

    A integração com o iPhone e a potencial rivalidade com a Samsung no mercado de smartphones com inteligência artificial abrem um leque de oportunidades para a OpenAI.

    Se o ChatGPT se tornar um recurso nativo do iOS, a Apple terá uma vantagem significativa em relação aos seus concorrentes, impulsionando ainda mais a adoção da tecnologia de IA em dispositivos móveis.

    No entanto, essa mudança também levanta preocupações sobre o controle e a acessibilidade da tecnologia da OpenAI. É crucial que a empresa mantenha seu compromisso com a pesquisa e o desenvolvimento responsáveis, garantindo que seus avanços em IA beneficiem a todos, e não apenas uma parcela privilegiada da sociedade.

    O tempo dirá se a OpenAI conseguirá navegar com sucesso nesse novo cenário e alcançar seus objetivos ambiciosos. Mas uma coisa é certa: a empresa está em um momento crucial de sua história, com o potencial de moldar o futuro da inteligência artificial para as gerações vindouras.