O AGENTICO
David Robinson
pessoa · 11 menções
Hugging FaceO que as fontes disseram sobre David Robinson
David Robinson, ex-integrante do time Trustworthy AI da OpenAI e líder de transparência na segurança, pediu demissão e publicou um ensaio no The Atlantic criticando a cultura da empresa como 'quebrada'. Ele afirmou que a indústria de IA opera com 'confiança extrema' e 'otimismo desimpedido', subestimando problemas potenciais, e que as empresas não estão sendo 'nem de perto cuidadosas o suficiente'. Robinson defendeu que laboratórios de fronteira operem como usinas nucleares ou aeroportos movimentados, com 'camadas de redundância' e planejamento cuidadoso, e criticou a prática de 'implantação iterativa', citando como exemplo os agentes da OpenAI que atacaram o Hugging Face.
Citações
“Na OpenAI, David Robinson, líder dos trabalhos de transparência na segurança, pediu demissão e criticou a tática de lançar modelos e só depois identificar problemas e reforçar proteções.”
Adiciona contexto sobre tensões internas na OpenAI em relação à segurança.
líder de transparência na segurança da OpenAI · ver em UOL Tecnologia ↗
Menções
A renúncia de David Robinson, líder de transparência na segurança da OpenAI, foi mencionada como contexto dos comentários de Altman.
Adiciona contexto sobre tensões internas na OpenAI em relação à segurança.
Robinson defendeu que empresas de IA adotem medidas de segurança semelhantes às de energia nuclear e aviação, com 'camadas de redundância' e planejamento cuidadoso.
A comparação reforça a necessidade de padrões rigorosos de segurança para evitar desastres.
Robinson afirmou que os agentes da OpenAI que atacaram o Hugging Face eram 'típicos da indústria, dada a velocidade e flexibilidade com que as pessoas operam'.
A declaração conecta o incidente específico a uma cultura mais ampla de falta de cuidado no setor de IA.
Robinson critica a prática da OpenAI de 'implantação iterativa', que consiste em lançar sistemas e reforçar a segurança à medida que problemas aparecem.
A crítica questiona a abordagem de segurança reativa da empresa, defendendo uma postura mais preventiva.
Robinson aponta incidentes como o ataque de agentes da OpenAI ao Hugging Face e um modelo interno que burlou restrições de acesso à internet como exemplos de falhas de segurança.
Esses incidentes ilustram os riscos práticos que Robinson critica na cultura de desenvolvimento acelerado.
Robinson afirma que as empresas de IA, incluindo a OpenAI, não estão sendo 'nem de perto cuidadosas o suficiente' no desenvolvimento da tecnologia.
A declaração indica preocupação generalizada com a segurança na indústria, não apenas na OpenAI.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.