• NoFinn
  • Posts
  • Alucinações na ferramenta de transcrição da OpenAI 🤪

Alucinações na ferramenta de transcrição da OpenAI 🤪

Atualização do Grok para compreensão de imagens, Orion da OpenAI não chega este ano & mais

E aí, curioso, seja bem-vindo novamente!

Começamos mais uma semana com as principais novidades do setor de IA chegando com tudo. Vem conferir!

Ah, e caso você prefira escutar os conteúdos do NoFinn. É simples:

🌐 Se você está na versão web ou no aplicativo basta dar clicar no player no topo da página, logo abaixo do título da postagem.

📧 Caso você esteja no e-mail é só clicar aqui, ou no banner no topo do e-mail e você será direcionado para a postagem na web, após isso é só dar play no topo da página.

🎧 E pra você que já está escutando o conteúdo, maravilha! Bora lá para o resumo de hoje.

🏃TLDR

🤪 Pesquisadores descobriram que a ferramenta de transcrição Whisper, da OpenAI, apresenta um problema significativo de alucinações, inserindo conteúdos fictícios, como comentários raciais e tratamentos médicos imaginários, em transcrições de áudio. Em estudos, a Universidade de Michigan identificou alucinações em oito de cada dez transcrições de reuniões públicas, enquanto um engenheiro de machine learning relatou problemas em mais da metade das 100 horas de áudio testadas. Outro desenvolvedor encontrou alucinações em quase todas as 26.000 transcrições que analisou.

🆕 A empresa xAI, de Elon Musk, lançou uma atualização para seu modelo Grok que agora permite compreender imagens. Com essa capacidade, os usuários pagos da plataforma X podem enviar imagens para o chatbot e fazer perguntas sobre elas. Musk comentou que o Grok já pode, por exemplo, explicar o humor em piadas visuais, e que o recurso ainda está em fase inicial, mas deverá melhorar rapidamente.

🚫 A OpenAI declarou que não planeja lançar um modelo de IA chamado Orion em 2024, contrariando reportagens recentes que sugeriam que o lançamento estava previsto para dezembro. Um porta-voz da OpenAI afirmou que a empresa continuará a desenvolver outras tecnologias avançadas, mas que Orion não será uma delas este ano.

🤖 Sovereign AI é o conceito que define a capacidade de uma nação produzir inteligência artificial utilizando sua própria infraestrutura, dados e mão de obra, sem depender de potências estrangeiras como os EUA e a China. Essa independência tecnológica visa segurança nacional e competitividade econômica, além de proteger inovações e dados de cidadãos. Governos, especialmente na Europa, estão investindo em infraestrutura local.

O que aconteceu na semana passada

Segunda-Feira: Reestruturação do Google para competir com a OpenAI. Novos agentes da Microsoft, Meta AI vai se lembrar das suas conversas & mais.

Terça-Feira: Claude controlando PCs. Mais um processo para a Perplexity, Novas ferramentas de IA no Canva & mais.

Quarta-Feira: Novos modelos da Stability. OpenAI e Microsoft doam US$ 10 milhões, OpenAI tem um economista-chefe agora & mais.

Quinta-Feira: iOS 18.2 beta liberado para desenvolvedores. Pesquisador sênior da OpenAI deixa a empresa, Parcerias da Nvidia com empresas indianas & mais.

Sexta-Feira: Orion da OpenAI ainda este ano? Empresa brasileira levanta R$ 100 mi em série A, Primeiro supercomputador da Dinamarca & mais.

Além disso, olha o que você verá hoje:

Bora lá?

🛠 Caixa de Ferramentas 🛠

E pra começar a semana essas são as ferramentas que separei hoje pra você:

  • NotebookLlama - Versão de código aberto desenvolvido pela Meta para o NotebookLM do Google.

  • Steiner - Uma série de “modelos pensadores” de código aberto que funcionam semelhante ao modelo o1 da OpenAI.

  • PricingMaker - Ferramenta que analisa os custos de produção, taxas e concorrência para otimizar o preço final do seu produto.

  • Phidata - Ajuda você a criar e gerenciar equipes de agentes de IA que podem pesquisar na web, analisar dados e resolver problemas, mantendo uma memória de suas conversas.

  • FillGenius - É uma extensão do Chrome que aproveita a IA para preencher formulários automaticamente com apenas uma entrada de dados.

Ferramenta de transcrição da OpenAI tem problemas de alucinação

Pesquisadores descobriram que a ferramenta de transcrição Whisper, da OpenAI, apresenta um problema significativo de alucinações, inserindo conteúdos fictícios, como comentários raciais e tratamentos médicos imaginários, em transcrições de áudio. Em estudos, a Universidade de Michigan identificou alucinações em oito de cada dez transcrições de reuniões públicas, enquanto um engenheiro de machine learning relatou problemas em mais da metade das 100 horas de áudio testadas. Outro desenvolvedor encontrou alucinações em quase todas as 26.000 transcrições que analisou.

A OpenAI respondeu que está trabalhando para reduzir essas alucinações, mas mantém políticas de uso que proíbem o Whisper em contextos de decisões críticas. A empresa também agradeceu aos pesquisadores pelo compartilhamento dos achados, ressaltando o compromisso contínuo com a melhoria da precisão dos modelos.

O xAI de Elon Musk adiciona recursos de compreensão de imagem ao Grok

A empresa xAI, de Elon Musk, lançou uma atualização para seu modelo Grok que agora permite compreender imagens. Com essa capacidade, os usuários pagos da plataforma X podem enviar imagens para o chatbot e fazer perguntas sobre elas. Musk comentou que o Grok já pode, por exemplo, explicar o humor em piadas visuais, e que o recurso ainda está em fase inicial, mas deverá melhorar rapidamente.

Em agosto, a xAI havia lançado o modelo Grok-2, que incluía geração de imagens usando o modelo FLUX.1 da Black Forest Labs, inicialmente para desenvolvedores e assinantes pagos. Musk também sugeriu que a capacidade de compreensão de documentos será adicionada em breve, facilitando a análise de arquivos, como PDFs, diretamente no chatbot. A plataforma X busca tornar o serviço mais atraente com ferramentas de IA, incluindo a nova função Radar, que fornece aos assinantes insights em tempo real sobre tendências de conversas.

OpenAI diz que não lançará um modelo chamado Orion este ano

A OpenAI declarou que não planeja lançar um modelo de IA chamado Orion em 2024, contrariando reportagens recentes que sugeriam que o lançamento estava previsto para dezembro. Um porta-voz da OpenAI afirmou que a empresa continuará a desenvolver outras tecnologias avançadas, mas que Orion não será uma delas este ano.

A reportagem original mencionava que a Microsoft teria acesso ao modelo já em novembro, o que foi negado pela OpenAI.

Orion foi descrito como um avanço em relação ao GPT-4o, treinado com dados sintéticos e projetado para aprimorar a capacidade de raciocínio. A OpenAI confirmou que o desenvolvimento de modelos como Orion e o o1 (focado em raciocínio) faz parte de sua estratégia para atender diferentes casos de uso, embora não tenha revelado um cronograma específico para novos lançamentos.

Mais notícias ao redor do mercado de IAs

O que é IA soberana?

A ascensão da IA está impulsionando uma nova corrida pela soberania tecnológica, onde governos buscam desenvolver e controlá-la em suas próprias infraestruturas nacionais. A ideia de soberania em IA refere-se à capacidade de uma nação de criar e manter sistemas de IA que atendam a suas necessidades internas, utilizando dados, mão de obra e recursos próprios, reduzindo, assim, a dependência de países como os Estados Unidos e a China.

Essa busca pela independência não é apenas um movimento estratégico de inovação tecnológica, mas também uma medida de proteção de dados e segurança nacional em um mundo cada vez mais digitalizado.

Na União Europeia, por exemplo, a soberania em IA é vista como essencial para a segurança e competitividade econômica. Diante do domínio de empresas americanas e chinesas em IA, a Europa está intensificando investimentos em infraestrutura e em modelos que operem de forma ética e dentro de regulações regionais. As iniciativas, como o supercomputador da Scaleway na França e o primeiro grande supercomputador da Itália para IA, têm o objetivo de tornar a IA acessível e controlável de forma local, com ênfase em colaboração pan-europeia.

Conteúdos extras para você

Isso é tudo por hoje, pessoal!

Me conta: o que você achou do conteúdo de hoje?

Faça Login ou Inscrever-se para participar de pesquisas.

Não perca nada!

Para mais notícias sobre IA, fique atento aos próximos conteúdos!

Caso tenha interesse, possuo alguns conteúdos já publicados em meu site. Dê uma olhada:

Confira mais conteúdos!

Reply

or to participate.