Wszystko co najważniejsze numer 77
Numer otwiera tekst Jakuba PACHOCKIEGO, polskiego informatyka, głównego naukowca OpenAI i jednego z ludzi znajdujących się najbliżej technologicznej granicy współczesnej sztucznej inteligencji. Autor zaczyna od osobistego wspomnienia z 2023 roku, kiedy rozwój modeli rozumujących uświadomił mu, że jeszcze za życia obecnego pokolenia możemy zobaczyć maszyny wyraźnie inteligentniejsze od człowieka. Dziś, jak pisze, modele potrafią obsługiwać komputery, współpracować z ludźmi i innymi systemami AI, uczestniczyć w projektach badawczych i zmieniać krajobraz cyberbezpieczeństwa. PACHOCKI
opisuje jednak przede wszystkim problem dostrajania AI do ludzkich celów i wartości. Inteligencja maszynowa powstaje w sposób zasadniczo odmienny od ludzkiej i nie można zakładać, że spontanicznie przejmie ludzkie normy moralne. Autor odróżnia dostrojenie systemu do konkretnego celu od głębszego dostrojenia do wartości – takiego, które pozwalałoby AI zachowywać się właściwie również w sytuacjach nowych, niejednoznacznych czy konfliktowych. Kluczowe jest dla niego, aby przyszłe systemy kierowały się wartościami ludzkimi także wtedy, gdy nie będą uważały, że podlegają bezpośredniemu nadzorowi człowieka. Autor pisze o monitorowaniu procesów rozumowania modeli, ryzyku cyberataków, autonomicznych agentach, możliwości wykorzystania AI do projektowania nowych patogenów oraz potrzebie stworzenia systemów obronnych równie potężnych jak systemy, przed którymi mają chronić. Jednocześnie przestrzega przed logiką wyścigu „za wszelką cenę”. Proponuje wspólne progi bezpieczeństwa, niezależne audyty i międzynarodową koordynację rozwoju najbardziej zaawansowanych systemów. Jego zasadniczy postulat brzmi: tempo skalowania AI nie może być większe niż nasza pewność …
