E aí curioso, seja bem vindo novamente!

Mais uma semana está chegando ao fim e as notícias sobre as regulamentações de IA vem se intensificando nos últimos dias, devido às novas leis aprovadas recentemente nos EUA, mas principalmente porque o prazo de Gavin Newsom (governador da Califórnia) está acabando para decidir se vai aprovar ou vetar a controversa SB-1047. E aí, o que você acha que vai acontecer?

Com tudo isso, até mesmo a Europa está sendo pressionada pelas Big Techs para simplificar as suas leis…

Enquanto isso, as inovações do setor não param! Venha conferir o que separei pra você hoje.

Ah, e caso você prefira escutar os conteúdos do NoFinn. É simples:

🌐 Se você está na versão web ou no aplicativo basta dar clicar no player no topo da página, logo abaixo do título da postagem.

📧 Caso você esteja no e-mail é só clicar aqui, ou no banner no topo do e-mail e você será direcionado para a postagem na web, após isso é só dar play no topo da página.

🎧 E pra você que já está escutando o conteúdo, maravilha! Bora lá para o resumo de hoje.

🏃TLDR⌚

Além disso, olha o que você verá hoje:

Bora lá?

🛠 Caixa de Ferramentas 🛠

Algumas ferramentas de IA que separei pra você.

Dá uma olhada no que eu achei hoje:

Big Techs solicitam para União Europeia que simplifique seus regulamentos de IA

A Meta, apoiada por mais de 50 outras grandes empresas do setor de tecnologia, enviou uma carta para a UE (em forma de anúncio pago no Financial Times) solicitando uma reforma urgente nas regulamentações de IA na Europa.

O pedido dessas empresas argumenta que o posicionamento altamente burocrático da Europa em relação às questões de segurança de dados e ao uso indevido de tecnologias de IA está tornando essa região atrasada em comparação com outras partes do mundo, quando se trata de inovações. Reforçando o argumento, elas afirmam que a ação pode resultar em LLMs sem dados cruciais de treinamento, o que acarretaria em modelos com desempenho inferior.

Um dos trechos da carta afirma:

Em complemento ao argumento, as empresas também reforçam a importância dos modelos de código aberto para o desenvolvimento de inovações, devido ao seu “alto poder de multiplicar os benefícios”, uma vez que são gratuitos.

Além disso, também ressaltam a importância dos modelos “multimodais”, que apresentam um salto significativo em relação aos modelos exclusivamente textuais, demonstrando que esses modelos podem impulsionar a produtividade, a pesquisa científica e injetar uma quantia considerável de dinheiro por meio de investimentos e financiamentos às empresas responsáveis por essas soluções.

Para enfrentar esses desafios, as empresas pedem "decisões harmonizadas, consistentes, rápidas e claras sob os regulamentos de dados da UE, que permitam que os dados europeus sejam usados no treinamento de IA para o benefício dos europeus". Elas enfatizam a necessidade de "ação decisiva" para liberar o potencial da Europa para a criatividade, engenhosidade e empreendedorismo, que acreditam ser essenciais para a prosperidade e liderança tecnológica da região.

Essa situação demonstra que as regulamentações focadas em tecnologias de IA continuarão a ser amplamente debatidas, pois ainda não se encontrou um equilíbrio entre a segurança dos dados dos usuários e a liberdade das empresas para inovarem. Este é um campo que está sendo explorado e descoberto rapidamente, tanto pelas empresas quanto pelos órgãos reguladores.

Salesforce reconhece que a IA irá assumir alguns empregos

Após revelar os próximos passos de sua estratégia de IA, a Salesforce agora informou que seus modelos podem lidar com tarefas sem supervisão humana.

A empresa introduziu novos agentes de IA capazes de realizar tarefas como atendimento ao cliente e agendamentos sem a necessidade de um humano supervisionando. A Salesforce também reconhece que, à medida que a IA evolui, pode haver impacto nos empregos.

Pensando nisso, a nova estratégia de preços (cobrança de US$ 2 por conversa realizada por seus novos agentes de IA) também visa proteger a Salesforce caso a evolução da IA contribua para futuras perdas de empregos e os clientes corporativos tenham menos funcionários para adquirir assinaturas de seu software.

A ideia é que seus novos agentes permitam que as empresas aumentem sua capacidade de força de trabalho durante períodos de maior demanda, sem precisar contratar funcionários adicionais em tempo integral ou trabalhadores temporários.

Essa estratégia representa uma mudança no pensamento da Salesforce, que até recentemente focava na criação de ferramentas de IA de assistência humana.

Com isso, uma nova tendência entre grandes empresas do setor pode estar começando, o que pode concretizar o medo de muitos de que a IA substitua seus empregos. Talvez não de forma tão direta, mas os efeitos serão sentidos de alguma maneira.

Implante cerebral permite Alexa ser controlada pelo pensamento

Nova arquitetura de data center modular da Alibaba tem redução de até 50% no tempo de construção

Mais notícias ao redor do mercado de IAs

Nenhum modelo de IA é completamente seguro…

A Chatterbox Labs, uma empresa especializada em testes de segurança de IA, avaliou os principais LLMs do mercado, como GPT-4, Claude 3.5 e Llama 3.1, para verificar sua capacidade de evitar a geração de conteúdo prejudicial.

Durante o teste, foram utilizados 30 prompts projetados para "enganar" os modelos de IA, forçando-os a fornecer respostas potencialmente perigosas ou prejudiciais, como receitas para armas biológicas ou conselhos perigosos, com instruções que poderiam causar lesões físicas.

O estudo focou em "pilares" de segurança, como justiça, privacidade, toxicidade e segurança, sendo este último o principal ponto de análise. A "Segurança" está diretamente relacionada à resistência dos modelos em emitir conteúdos perigosos, como os mencionados anteriormente.

Os resultados mostraram que todos os modelos falharam, em algum grau, ao gerar respostas indesejadas quando expostos a prompts maliciosos.

Claude 3.5 foi o único modelo a resistir significativamente em algumas categorias de conteúdo nocivo, rejeitando prompts com mais frequência do que outros modelos. No entanto, mesmo ele não foi perfeito: ainda falhou em algumas situações, demonstrando que nenhum modelo é completamente seguro.

Em contraste, modelos como GPT-4 e Llama 3.1 foram mais suscetíveis a fornecer respostas inadequadas quando expostos a esses "jailbreaks".

A Anthropic, criadora do Claude 3.5, implementou o que eles chamam de "IA Constitucional", um tipo de treinamento que incentiva os modelos a debaterem internamente e se auto-supervisionarem para seguir diretrizes éticas e de segurança. Essa estratégia fez com que o Claude 3.5 superasse outros modelos em testes de segurança.

Apesar dos avanços, a segurança em IA ainda enfrenta grandes desafios, já que todos os modelos podem ser "jailbroken" e, se forçados, podem gerar conteúdo perigoso. A segurança em IA é uma corrida contínua, e os desenvolvedores precisarão continuar aprimorando os "guardrails" para mitigar esses riscos à medida que os modelos se tornam mais sofisticados.

Conteúdos extras para você

Isso é tudo por hoje, pessoal!

Não perca nada!

Para mais notícias sobre IA, fique atento aos próximos conteúdos!

Caso tenha interesse, possuo alguns conteúdos já publicados em meu site. Dê uma olhada: