Google DeepMind zaprezentowało DeepMind Institute (DMI) — dedykowaną platformę mającą rozwijać badania i wiedzę na temat ogólnej sztucznej inteligencji (AGI). Inicjatywa łączy badaczy i myślicieli z Google DeepMind, Google oraz szerszej światowej społeczności badawczej, którzy będą publikować kreatywne, oparte na rzetelnej wiedzy perspektywy dotyczące świata z AGI. Firma wprost przyznaje, że autorzy nie zawsze będą się zgadzać i mogą zmieniać zdanie w miarę pojawiania się nowych dowodów na szybko zmieniającej się granicy tej dziedziny. Więcej informacji można znaleźć na oficjalnej stronie instytutu.

Ogłoszenie pojawia się w momencie, gdy dzisiejsze systemy AI wykazują imponujące możliwości, ale wciąż potykają się przy podstawowych zadaniach i nie posiadają spójności i kreatywności wymaganych od prawdziwej AGI. DeepMind przewiduje, że te luki wkrótce się zamkną, i definiuje AGI — system dorównujący pełnemu zakresowi poznawczemu ludzkiego mózgu — jako potencjalnie ostateczne narzędzie przyspieszania przełomów naukowych. W wizji firmy AGI mogłaby otworzyć nowe drogi do zrozumienia i leczenia chorób, rozwoju czystej energii oraz napędzania dobrobytu gospodarczego, otwierając złoty wiek odkryć wykraczający daleko poza to, co ludkość osiągnęłaby sama. To ujęcie ma znaczenie częściowo dlatego, że sama AGI nie ma powszechnie uzgodnionej definicji technicznej, a badacze są nadal podzieleni co do tego, kiedy — i czy w ogóle — takie systemy nadejdą, co czyni tę terminologią żywą linię sporu w samej dziedzinie.

DeepMind łagodzi ten optymizm szczerą oceną ryzyka. Firma zauważa, że skutki coraz zdolniejszej AI są już widoczne w obszarach takich jak cyberbezpieczeństwo i ryzyka biologiczne, i ostrzega przed potencjalną utratą kontroli nad przyszłymi systemami samoulepszającymi się. DMI jest przedstawiane jako bezpośrednia odpowiedź na tę podwójną rzeczywistość: konsekwentne dążenie do interdyscyplinarnych badań, współpracy i debaty niezbędnych do rozwiązania najpoważniejszych pytań technicznych i społecznych tej epoki.

Poza laboratorium: rola społeczeństwa w erze AGI

Mandat instytutu wykracza daleko poza inżynierię techniczną. Planuje on zmierzyć się z pytaniami, w tym o to, co ludzkość będzie cenić w erze AGI i jak takie systemy zmienią to, co oznacza bycie człowiekiem; jak bezpiecznie budować AGI i nią zarządzać oraz jak będą funkcjonować społeczności agentów AI; a także które instytucje i polityki społeczeństwo będzie musiało zaadaptować — lub całkowicie przemyśleć.

Centralną przesłanką inicjatywy jest to, że sami technolodzy nie mogą zdecydować, jak odpowiedzialnie rozwijać i wdrażać AGI. Wiedza technologiczna może otworzyć możliwość nowej epoki, ale DeepMind argumentuje, że kształtowanie jej rzeczywistości to zbiorowa odpowiedzialność całego społeczeństwa — obejmująca również sztukę, nauki humanistyczne i rządy. W tym ujęciu konsensus co do nadchodzących wyzwań i szans wymaga szerokiej dyskusji intelektualnej, a nie jednego autorytatywnego głosu.

Gromadząc różnorodne punkty widzenia w celu zidentyfikowania kluczowych wyzwań i zdebatio-wania potencjalnych rozwiązań, DMI dąży do tego, by korzyści z AGI przeważały nad ryzykiem i by poprawiała ona życie wszystkich. Uruchomienie instytutu wskazuje też naerszą zmianę w tym, jak wiodące laboratoria AI angażują społeczeństwo w sprawy technologii granicznej — przechodząc od rozwoju za zamkniętymi drzwiami do otwartych, multidyscyplinarnych obrad — co jest już widoczne w całej branży, gdzie konkurencyjne laboratoria graniczne opublikowały własne ramy bezpieczeństwa i zobowiązania dotyczące skalowania, a decydenci podjęli kroki regulacyjne wobec zaawansowanej AI, od unijnego AI Act po międzynarodowe deklaracje szczytowe dotyczące ograniczania ryzyk granicznych. Pozostaje kwestią otwartą, czy instytut naprawdę przekuje debatę w wykonalne ramy bezpieczeństwa i zarządzania, ale stanowi to znaczącą instytucjonalną stawkę: droga do AGI musi być kształtowana przez coś więcej niż tylko jej budowniczych.

Źródło: Metaverse Post