Nauka

Google tworzy „przycisk” do powstrzymania Buntu Maszyn

przeczytasz w 1 min.

Pytanie tylko, czy możemy być pewni, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas?

Ludzie od dekad próbują stworzyć coś potężnego – ale to niestety może być potężniejsze od nich i przejąć nad nimi kontrolę. Co więcej, z każdym dniem są coraz bliżej osiągnięcia tego celu. Nie dziwi więc, że osoby, takie jak Elon Musk czy Stephen Hawking ostrzegają nas na każdym kroku przed skutkami sytuacji, w której doszłoby do stworzenia czegoś na wzór Skynetu – robotów i algorytmów, które wyślizgnęły się spod ludzkiej kontroli. 

Czy można kontynuować prace nad sztuczną inteligencją i jednocześnie zabezpieczyć się przed niepowołanymi skutkami? Należąca do Google firma Deep Mind twierdzi, że tak. Ruszyły prace nad „czerwonym przyciskiem”, który może zapobiec „robokalipsie”.

Deep Mind rozwija narzędzia, które pozwolą człowiekowi w kilka chwil dezaktywować działanie robotów i sztucznej inteligencji, w określonym wcześniej zakresie. Chodzi o to, by człowiek mógł w każdym momencie przejąć kontrolę nad maszyną, która (na przykład w wyniku awarii) próbowałaby stawiać opór lub obrócić się przeciwko „właścicielowi”. 

Pozostaje oczywiście jeszcze kilka problemów do rozwiązania, jak na przykład to, jak zaimplementować nowe narzędzie we wszystkich maszynach. Po drugie, jaką możemy mieć pewność, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas? 

Ważne jednak, by coś w tej kwestii zrobić. Musimy (a właściwie: naukowcy muszą) pracować nad rozwiązaniami, dzięki którym, gdy maszyny rzeczywiście będą chciały się zbuntować, my będziemy gotowi.

Źródło: Neowin, Engadget, Google. Foto: Allstar/Paramount Pictures

Komentarze

21
Zaloguj się, aby skomentować
avatar
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    DanyGee
    9
    Nie łudźmy się. SI nas wykiwa. Ciekawe co zrobi z pasożytami - ludźmi. My chyba jako jedyny gatunek jesteśmy tu na Ziemi zupełnie niepotrzebni.
    • avatar
      Konto usunięte
      3
      Nadal jakoś nie potrafię sobie wyobrazić jak komputerowy algorytm może być "inteligentny", a tym bardziej świadomy czegokolwiek.
      • avatar
        Ravir
        3
        Postawi się skup złomu - da wysokie ceny i PO ZAWODACH.

        Polacy jako pierwsi rzucą się do demontażu maszyn :)

        Mosty, szyny kolejowe, transformatory sN ze słupów potrawią ukraść :) - to roboty nie będa stanowic problemu :) :)
        • avatar
          eninede
          2
          ...czyżby ktoś chciał stworzyć zabezpieczenie doskonałe ??? ROTFL !!! ...człowiek (istota 'skończona') chce stworzyć ograniczenie dla A.I. które (teoretycznie) będzie mogło być od nas o wiele bardziej inteligentne ...
          • avatar
            NewUnnamedUser
            0
            https://www.youtube.com/watch?v=x3pu25Eroi4
            • avatar
              sztajnol1
              0
              Hmm, Deep Mind... Głęboka Myśl... coś mi to przypomina... Autostopem przez Galaktykę? Kiedy Dzień Odpowiedzi? Za kolejne 7,5 miliona lat?
              • avatar
                Konto usunięte
                0
                zawsze mozna wylaczyc prad. A jak sie nie to, to Wegiel na haldzie na elektrocieplowni skonczy sie po 2 miesiacach i po sprawie. :D
                • avatar
                  wdowa94321
                  0
                  Tak tak i sterownik sam z siebie napisze sobie program, sam zrobi adresowanie, stworzy przydziały i szablony zapisywania w komórkach...

                  Witaj!

                  Niedługo wyłaczymy stare logowanie.
                  Logowanie będzie możliwe tylko przez 1Login.

                  Połącz konto już teraz.

                  Zaloguj przez 1Login