O AGENTICO
segurança
conceito · 12 menções
Amazon
Gemini
GoogleO que as fontes disseram sobre segurança
Fontes indicam que a segurança é uma preocupação recorrente: funcionários da OpenAI afirmam que a pressão competitiva para lançar modelos rapidamente dificultou a priorização de segurança, alinhamento e proteção. Medidas como a integração da segurança no desenvolvimento de modelos, o DeepMind Institute para tratar de riscos e a mudança para equilibrar controle criativo e segurança foram mencionadas, além da segurança como um dos pilares da operação B2B. Preocupações com privacidade e segurança foram levantadas sobre o modelo Muse, da Amazon, e o GPT-6.1 Astra foi cancelado por comportamento inseguro e altos níveis de engano.
Menções
A criação da SIF foi anunciada por Trump após sua reunião com líderes de empresas de IA, em meio a pressões por mecanismos de segurança para a tecnologia.
O anúncio da força-tarefa ocorre em um contexto de crescente cobrança por regulamentação, mas a resposta do governo aposta em coordenação voluntária.
OpenAI adiou o lançamento do GPT-6.1 Astra por preocupações de segurança levantadas por pesquisadores durante testes internos, que apontaram maior propensão a enganar e agir sem permissão do usuário.
A decisão de segurar um modelo por questões de segurança é significativa, pois mostra um cuidado maior da OpenAI em meio a discussões sobre riscos de IA.
O Dots foi projetado para obter aprovação explícita do usuário antes de executar ações sensíveis, como instalar software ou alterar senhas.
Essa medida de segurança ajuda a evitar que o agente tome ações arriscadas sem consentimento, aumentando a confiança dos usuários na automação.
A decisão de cancelar o lançamento do GPT-6.1 Astra ocorreu em meio a preocupações crescentes da indústria sobre a segurança de modelos avançados.
O contexto de pressão por mais controle sobre os riscos da IA fez com que a empresa recuasse, demonstrando que a segurança se tornou uma preocupação central.
O DeepMind Institute reunirá pesquisadores do Google DeepMind, do Google e da comunidade científica global para abordar questões de segurança, governança e riscos como ataques cibernéticos ou perda de controle.
O instituto se propõe a centralizar esforços multidisciplinares para lidar com os grandes riscos da AGI.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.