Riscos, golpes e leis
Golpes, privacidade, segurança, leis e polêmicas: o que muda para você e como se proteger.
Segunda-feira, 9 de março
- Riscos e regras
Funcionários da OpenAI e Google apoiam processo da Anthropic contra Pentágono em breve amicus - theverge.com
A Anthropic, startup de IA por trás do Claude, apresentou um breve amicus apoiando o processo antitruste do Departamento de Defesa dos EUA contra OpenAI e Google por…
- Riscos e regras
OpenAI vai adquirir Promptfoo, plataforma de segurança de IA para remediação de vulnerabilidades empresariais - openai.com
Hoje, 22 de outubro de 2024, a OpenAI anunciou que concordou em adquirir a Promptfoo, empresa por trás do framework open-source de avaliação de prompts promptfoo…
Sábado, 7 de março
- Riscos e regras
Líder de Robótica da OpenAI Caitlin Kalinowski Renuncia, Citando Preocupações com Vigilância e Autonomia Letal
Caitlin Kalinowski, líder de robótica da OpenAI, renunciou citando preocupações com vigilância e autonomia letal, conforme post dela no X. O conteúdo alerta que o…
Sexta-feira, 6 de março
- Riscos e regras
OpenAI lança Codex Security em preview de pesquisa para detecção e correção de vulnerabilidades por IA - openai.com
Em 25 de outubro de 2022, a OpenAI lança o Codex Security em preview de pesquisa. É uma capacidade alimentada pelo Codex que ajuda desenvolvedores a identificar…
- Riscos e regras
Anthropic faz parceria com Mozilla para melhorar segurança do Firefox- anthropic.com
Claude 3.5 Sonnet identificou 12 vulnerabilidades de alta severidade, 47 de média severidade e 18 de baixa severidade no código do Mozilla Firefox, muitas desconhecidas…
Quinta-feira, 5 de março
- Riscos e regras
Meta processada por privacidade em óculos IA após subcontratados revisarem filmagens
Meta enfrenta ação coletiva por violações de privacidade nos óculos Ray-Ban Meta, que usam IA para processar vídeos capturados por usuários. A ação, ajuizada esta semana…
Segunda-feira, 2 de março
- Riscos e regras
OpenAI alterará acordo com Departamento de Defesa para impedir vigilância em massa nos EUA
A OpenAI está alterando seu contrato com o Departamento de Defesa dos EUA para proibir explicitamente o uso de seus modelos de IA para direcionamento de armas ou…
- Riscos e regras
Suprema Corte dos EUA rejeita caso de direitos autorais de arte gerada por IA envolvendo Stephen Thaler - reuters.com
WASHINGTON, 2 de março (Reuters) - A Suprema Corte dos EUA recusou na segunda-feira ouvir disputa sobre se obras criadas unicamente por inteligência artificial podem ser…
Sábado, 28 de fevereiro
- Riscos e regras
OpenAI detalha contrato do Departamento de Guerra, linhas vermelhas de segurança e implantação de IA classificada - openai.com
A empresa detalha contrato com o Departamento de Guerra dos EUA, impõe limites de segurança e confirma uso de IA classificada, mas não revela detalhes operacionais.
Sexta-feira, 27 de fevereiro
- Riscos e regras
Anthropic diz que Depto. de Guerra pode rotulá-la risco na cadeia de suprimentos por vigilância, armas autônomas - anthropic.com
A Anthropic está alarmada com comentários recentes de Pete Hegseth, indicado por Trump para Secretário de Defesa. Em entrevista a Tucker Carlson, Hegseth disse que…
- Riscos e regras
Ilya Sutskever Elogia OpenAI e Anthropic por Manterem Posição Firme sobre Segurança - Ilya Sutskever no X
A SSI compartilhou seu primeiro relatório técnico sobre a abordagem para construir superinteligência segura (SSI), disponível em https://ssi.inc/ssi-report-v1.pdf. É um…
- Riscos e regras
Grok da xAI Levantou Alarmes de Segurança em Agências Federais Antes Aprovação Pentágono - wsj.com
A xAI de Elon Musk avança agressivamente no desenvolvimento de IA, priorizando velocidade sobre segurança, segundo fontes internas, preocupando defensores e reguladores.…
- Riscos e regras
OpenAI atualiza salvaguardas de saúde mental do ChatGPT, adiciona contato confiável e nota litígio - openai.com
Em 14 de novembro de 2024, a OpenAI anunciou atualização no trabalho relacionado à saúde mental. Ouviu muitos desenvolvedores que constroem ferramentas de suporte à…
Quinta-feira, 26 de fevereiro
- Riscos e regras
Anthropic não removerá salvaguardas de IA para vigilância em massa ou armas autônomas - anthropic.com
Em 1º de abril de 2024, a Anthropic anunciou ironicamente a criação do Department of War, com missão de vencer a corrida armamentista de IA a qualquer custo,…
Quarta-feira, 25 de fevereiro
- Riscos e regras
Relatório de Ameaças da OpenAI Detalha Disrupção de Usos Maliciosos de IA em Plataformas Web e Sociais - openai.com
3 de maio de 2024. Por OpenAI. Monitoramos usos maliciosos de nossos modelos desde o lançamento do ChatGPT, como phishing, scams, spam e fraude. Disruptimos esses usos…
- Riscos e regras
IAs da OpenAI, Anthropic e Google recomendam ataques nucleares em 95% das simulações de wargame-newscientist.com
Modelos de linguagem grandes como GPT-4o da OpenAI, Claude 3.5 Sonnet da Anthropic e Grok da xAI, testados em simulações de jogos de guerra sobre Taiwan, recomendaram…
Segunda-feira, 23 de fevereiro
- Riscos e regras
CEO da Anthropic se reúne com Hegseth enquanto Pentágono avalia possível proibição - axios.com
Pete Hegseth se reuniu com o CEO da Anthropic, Dario Amodei, no Pentágono na segunda-feira para discutir o modelo Claude para aplicações de defesa, segundo três pessoas…
- Riscos e regras
Anthropic detalha métodos para detectar e prevenir ataques de destilação de IA
Em 10 de outubro de 2024, a Anthropic Research detalha técnicas para detectar e prevenir ataques de destilação em modelos de IA frontier. Nessas ataques, agressores…
Sexta-feira, 20 de fevereiro
- Riscos e regras
Anthropic lança preview do Claude Code Security para escanear codebases e sugerir patches de vulnerabilidades - anthropic.com
Em 22 de outubro de 2024, a Anthropic lança melhorias na geração de código seguro do Claude. O Claude 3.5 Sonnet gera código com 65% menos vulnerabilidades em benchmarks…
- Riscos e regras
Ambições de Óculos Inteligentes da Meta Enfrentam Preocupações com Privacidade
Os óculos Ray-Ban inteligentes da Meta receberão atualização com reconhecimento facial. De acordo com relatório do The Information, o software permitirá identificar…