PRZESŁUCHANIE PRZED KOGRESEM U.S – ”BADALIŚMY WRAKI STATKÓW KOSMICZNYCH”
21 czerwca 2023
JUŻ W 2006 ROKU TEN ŚWIAT MÓGŁ FUNKCJONOWAĆ BEZ PESTYCYDÓW I CHEMII
23 czerwca 2023
Kiedy mówimy o sztucznej inteligencji (AI), często wyobrażamy sobie komputer, który rozwiązuje problemy szybciej niż człowiek. Ale co, jeśli sztuczna inteligencja stałaby się tak zaawansowana, że przewyższyła nasze umiejętności poznawcze? Oto przerażający scenariusz superinteligentnej AI, której nie da się kontrolować.
To nie jest tylko dystopia science fiction. Coraz więcej badaczy jest przekonanych, że będziemy musieli się zmierzyć z realnym problemem utrzymania kontroli nad superinteligentnymi systemami. Wszystko sprowadza się do zdolności do symulowania i zrozumienia działania takiej inteligencji.
Kiedy sterujemy AI, musimy być w stanie przewidzieć, co zrobi. Oznacza to tworzenie symulacji jej działania, której możemy dokładnie przeanalizować. Ale jeśli nie jesteśmy w stanie zrozumieć tej symulacji, to znaczy, że nie da się jej stworzyć.
Równie ważne jest, że nie możemy nałożyć reguł na system, którego nie rozumiemy. Nawet najprostsza zasada, taka jak „nie krzywdź ludzi”, jest niemożliwa do zaimplementowania, jeśli nie rozumiemy wszystkich potencjalnych scenariuszy, które może generować AI.
Ten problem ma swoje korzenie w koncepcji znanym jako problem stopu, sformułowanym przez Alana Turinga w 1936 roku. Pytanie brzmi: jak możemy wiedzieć, czy dany program komputerowy dojdzie do wniosku, czy zapętli się, próbując go znaleźć? Mimo że jesteśmy w stanie to stwierdzić dla niektórych programów, nie istnieje uniwersalny sposób na określenie tego dla każdego możliwego programu.
Przy superinteligentnej AI, która jest w stanie przechowywać w swojej pamięci wszystkie możliwe programy, problem ten staje się jeszcze bardziej skomplikowany. Możemy napisać program, który próbuje zatrzymać AI przed krzywdzeniem ludzi, ale nie możemy być absolutnie pewni, czy ten program będzie skuteczny – nie ma matematycznego sposobu na potwierdzenie tego.
Niektórzy badacze sugerują, że skoro nie możemy nauczyć AI etyki, powinniśmy ograniczyć jej możliwości – na przykład, odciąć ją od Internetu. Jednakże, takie podejście mogłoby ograniczyć potencjał AI i zablokować jej możliwość rozwoju.
Wielu uważa, że punkt zwrotny, kiedy superinteligencja stanie się niekontrolowalna, może nastąpić bez ostrzeżenia. To stawia przed nami poważne pytania dotyczące naszej przyszłości z AI. Czy jesteśmy gotowi, aby skonfrontować się z takim wyzwaniem?
Czy mamy plan na radzenie sobie z niekontrolowaną superinteligencją? Czy jesteśmy gotowi zrezygnować z kontroli, która do tej pory była naszym priorytetem? Wszystko to są pytania, na które musimy znaleźć odpowiedzi, zanim będzie za późno.
