E aí curioso, seja bem vindo ao Nofinn!

Aqui estão as principais novidades do setor de IA para esta quinta-feira. Caso você prefira escutar os conteúdos do NoFinn. É simples:

🌐 Se você está na versão web ou no aplicativo basta dar clicar no player no topo da página, logo abaixo do título da postagem.

📧 Caso você esteja no e-mail é só clicar aqui, ou no banner no topo do e-mail e você será direcionado para a postagem na web, após isso é só dar play no topo da página.

🎧 E pra você que já está escutando o conteúdo, maravilha! Bora lá para o resumo de hoje.

🏃TLDR⌚

Além disso, olha o que você verá hoje:

Bora lá?

🛠 Caixa de Ferramentas 🛠

Aqui estão algumas das ferramentas que separei hoje pra você:

OpenAI se une à Anduril para usar IA e reforçar a defesa dos EUA

A OpenAI anunciou uma colaboração com a Anduril, uma empresa que desenvolve tecnologias para defesa militar, como drones e sistemas de mísseis. O objetivo é aplicar a IA para melhorar sistemas de defesa aérea dos Estados Unidos, permitindo que ameaças, como drones hostis, sejam detectadas e analisadas de forma mais rápida e eficiente.

Foram necessários ajustes nas diretrizes da OpenAI para permitir a aplicação de IA em projetos militares, mesmo com algumas preocupações internas. A parceria ressalta a supervisão humana em operações críticas, evitando que sistemas tomem decisões independentes.

Essa parceria é parte de uma tendência crescente entre grandes empresas de tecnologia, como Meta e Anthropic, de trabalharem com o setor de defesa. Esses projetos buscam não apenas fortalecer a segurança nacional, mas também explorar o potencial econômico de contratos militares, essenciais para sustentar os altos custos de pesquisa e desenvolvimento em IA.

Meta entra no universo de data centers movidos a energia nuclear

A Meta está buscando energia nuclear para alimentar seus data centers, propondo uma colaboração com desenvolvedores que possam construir entre 1 e 4 gigawatts de capacidade elétrica nos Estados Unidos. A empresa se compromete a compartilhar custos no início e adquirir energia quando os reatores estiverem operando na década de 2030. Essa iniciativa faz parte de um esforço maior para atender à crescente demanda de energia dos data centers, alinhando sustentabilidade e tecnologia de ponta.

Embora projetos tradicionais de energia nuclear sejam conhecidos por serem caros e demorados, a Meta está aberta a inovações, como os pequenos reatores modulares (SMRs). A movimentação segue uma tendência de gigantes como Microsoft, Google e Amazon, que também estão investindo em energia nuclear para atender suas operações e metas de sustentabilidade.

A tensão entre Elon Musk e Sam Altman aumenta, em meio à declarações do CEO da OpenAI

Musk, CEO da Tesla e da plataforma X, lidera uma comissão que propõe cortes em agências federais e pode ter influência na formulação de políticas de inteligência artificial sob a administração de Donald Trump. Altman expressou tristeza sobre a situação, destacando que já admirou Musk, mas agora tem sentimentos mistos em relação a ele.

Mais notícias ao redor do mercado de IAs

Uma nova referência para os riscos da IA

A MLCommons, uma organização sem fins lucrativos focada em medir o desempenho de sistemas de inteligência artificial, lançou o AILuminate, um benchmark inovador para avaliar os riscos potenciais associados à tecnologia. Esse sistema analisa mais de 12.000 situações em 12 categorias críticas, como discurso de ódio, incitação à violência, exploração infantil, autolesão e infrações de propriedade intelectual. Os modelos são classificados em cinco níveis de desempenho, de "ruim" a "excelente", com o objetivo de identificar fragilidades e incentivar melhorias contínuas.

A metodologia do AILuminate inclui a confidencialidade dos prompts usados nos testes, garantindo que os modelos de IA não sejam treinados especificamente para contorná-los. Modelos populares de empresas como Anthropic, Google, Microsoft, OpenAI e Meta foram testados, com resultados que variam entre "bom" e "muito bom". O benchmark funciona de forma similar às classificações de segurança automotiva, encorajando desenvolvedores a atender padrões mais altos para se manterem competitivos. Um modelo de pesquisa da Allen Institute for AI foi o único avaliado como "ruim", destacando que o foco na segurança não era seu objetivo principal.

A iniciativa também busca promover uma padronização global na avaliação de riscos da IA, incluindo parcerias com organizações como a AI Verify, de Singapura. Embora empresas chinesas ainda não tenham utilizado o benchmark, a presença de membros internacionais na MLCommons, como Huawei e Alibaba, abre caminho para comparações entre práticas de segurança nos Estados Unidos, China e outros países. Além disso, o AILuminate pode complementar os esforços governamentais, que frequentemente enfrentam dificuldades para acompanhar o ritmo acelerado da evolução tecnológica.

Apesar de ser um avanço importante, o AILuminate não cobre todos os riscos da IA, como a possibilidade de modelos se tornarem enganosos ou difíceis de controlar. Essa limitação reflete a complexidade da área e destaca a necessidade de esforços paralelos de pesquisa e regulação. Ao definir padrões mais claros para a segurança da IA, o benchmark não apenas melhora a confiança no uso da tecnologia, mas também contribui para o desenvolvimento responsável de novos sistemas, alinhando práticas comerciais com os interesses da sociedade.

Conteúdos extras para você

Isso é tudo por hoje, pessoal!

Não perca nada!

Para mais notícias sobre IA, fique atento aos próximos conteúdos!

Caso tenha interesse, possuo alguns conteúdos já publicados em meu site. Dê uma olhada: