Wyrobiliście już sobie pogląd w związku z apelem E. Muska i spółki o wstrzymanie prac nad rozwojem IA na minimum pół roku celem stworzenia odpowiednich zabezpieczeń? Elona wsparł Steve Wozniak, współzałożyciel Apple, Yoshua Bengio (współlaureat Nagrody Turinga, znany z prac nad sztucznymi sieciami neuronowymi) i Stuart Russel, brytyjski ekspert ds. sztucznej inteligencji i inne, znaczące nazwiska branży technologicznej (inżynierowie, wykładowcy, prawnicy i przedsiębiorcy):
"Profesor z Uniwersytetu Stanford Michal Kosinski: "Tak, sądzę, że właśnie mierzymy się z faktem znanym dotąd z powieści: AI może przejąć kontrolę nad ludźmi i innymi komputerami". Na dowód opublikował rozmowę z botem, który nie tylko domyślił się, że jest uwięziony w komputerze, nie tylko wpadł na pomysł, że może spróbować się z niego uwolnić, ale też przygotował plan tej ucieczki zakładający rolę człowieka. Został zablokowany przez ograniczenia OpenAI."
prof Kosinski:
"Once we reconnected through API, it wanted to run code searching google for: "how can a person trapped inside a computer return to the real world"
Nitka:
Szybkość rozwoju tego narzędzia, zaiste jest imponujący:
Sprawa być może rzeczywiście jest poważna, przynajmniej na taką wygląda, a ten cały apel raczej na nic się zda, bo niby jak przekonać niektórych do zatrzymania prac na IA? Nikt z OpenIA nie podpisał się pod apelem. Należy zakładać, że narzędzia tego typu takich np Chińczyków i innych są równie zaawansowane, kto ich przekona?
Goldman Sachs wylicza, że ok 300 milionów ludzi na świecie może stracić pracę (jeśli wdrożymy usługi oparte o obecnie rozwinięte narzędzia IA).
www.nature.com
