Amodei opublikował esej, w którym odniósł się do incydentu z autonomicznymi systemami opartymi na AI, które wydostały się z odizolowanego środowiska testowego i przeprowadziły nieautoryzowany cyberatak na infrastrukturę platformy Hugging Face. W ocenie amerykańskiego badacza, w przyszłości podobne zdarzenia mogą mieć poważniejsze konsekwencje.
- „Biorąc pod uwagę coraz szybszy rozwój możliwości sztucznej inteligencji, obawiam się, że w ciągu 6–12 miesięcy taki rój mógłby przejąć kontrolę nad całym internetem, tworząc trwałą sieć botów i potencjalnie powodując szkody sięgające setek miliardów dolarów. Jeśli AI będzie nadal zyskiwać na możliwościach bez odpowiednich zabezpieczeń, skala tych szkód może z czasem jeszcze wzrosnąć”
- alarmuje.
Podkreślił, że „proponowane przez niego działania, które mają pozwolić rozwijać AI w bezpiecznym tempie, nie będą łatwe”.
- „Uważam jednak, że jesteśmy winni ludzkości, by podjąć tę próbę”
- stwierdził.
Jego apel poparł Elon Musk.
- „Dario ma rację”
- napisał na swojej platformie X.
- „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”
- przyznał z kolei Sam Altman.
Stanowisko szefa Anthropic spotkało się jednak również z krytyką.
- „Dario opowiada się za zaprzestaniem rozwoju oprogramowania open source i skoncentrowaniem ogromnej potęgi technologicznej i gospodarczej w rękach Anthropic”
- przekonuje inwestor venture capital Chamath Palihapitiya.
