Nadchodzi koniec świata

Mam na mysli koniec świata takiego jaki znamy. Nowy świat będzie zupełnie inny. I chyba już mi się nie podoba...
Impulsem do tego wniosku stała się krótka notatka w blogu JKM na temat sztucznej inteligencji., Żeby nie opowiadać własnymi słowami zacytuję:

Przyczyną jest pojawienie się na jesieni 2017 roku Sztucznej Inteligencji.
(...)
Do jej zapoczątkowania niezbędny był duży i szybki komputer. Zainstalowano w nim ArtIntę (oprogramowanie AI - przyp. MJ), której kazano grac w szachy. Nie: nie dano jej żadnych wskazówek!! Nauczono reguł gry – i kazano grać samej ze sobą. W ciągu 4 godzin rozegrala parędziesiat milionów partyj – i sama nauczyła się grać wedle nieznanych nam reguł „myslenia”. Po czym ograła (+28-0=72) super-program „Stockfish” wygrywajacy z najlepszymi arcymistrzami.

„Nowicjusz” nie przegral ani jednej partii!!

Prosze zrozumieć: to jest całkowicie nowa jakość. Do tej pory komputery uczone były na pamięc kilkunastu posunieć w debiucie, w końcowce liczyły wszystkie mozliwości – a w grze środkowej korzystały z systemu wskaźników: dodatkowe punkty za „dobre polozenie”, za zagrozenie Krola przeciwnika itp. Natomiast ArtInty AlphaZero nikt niczego nie uczył. Opanowala tę grę jak dziecko nauczone tylko reguł i nagradzane za wygraną.

AlphaZero zwana czasem DeepMind jest absolutnie uniwersalna. Dzięki niej dowiedzieliśmy się zreszta obiektywnie, że japońska gra Go jest trudniejsza od szachów: AlphaGo Zero musiala grać ze sobą tydzień i rozegrać setki milionów partyj, by osiagnąc poziom, na ktorym rozłożyła na łopatki najlepszego gracza Go. Jest to po prostu autentyczna Sztuczna Inteligencja w czystej postaci. Dotychczasowe programy komputerowe to przy niej prostactwo.

Przewiduję, że pojawienie się ArtInty calkowicie – i to bardzo szybko - zmieni naszą cywilizację. Wzniesie nas na wyzyny... albo doprowadzi do katastrofy.

Co to oznacza?

To oznacza, że już niedługo ludziom nie będzie wolno kierować samochodami (nowe przepisy prawa), bo znacznie lepiej będą to robić komputery. Oczywiście wypadki samochodowe będą nadal i to bardzo spektakularne, ponieważ to co widzi i rozumie kierowca na drodze jest skutkiem informacji jakie do jego mózgu dostarczają jego zmysły. Identycznie będzie w przypadku komputerów. Niedawno czytałem o wypadku gdzieś na drodze w USA gdzie jechał samochód kierowany przez autopilota i jego kierowca (pasażer?) zamiast patrzeć na to co się dzieje na drodze czytał sobie gazetę czy coś podobnego. I samochód wjechał bez próby hamowania pod wielkiego tira, który właśnie przecinał skrzyżowanie. Powodem było oślepienie kamery samochodu słońcem i kolor ciężarówki podobny do koloru nieba. Komputer nie odczytał na obrazie z kamery żadnego zagrożenia. Facetowi urwało dach razem z głową...

Komputery, które potrafią w kilka sekund znaleźć dowolną informację na każdy temat w światowej bazie danych i na tej podstawie wnioskować i podejmować decyzje, stwarzają taki poziom trudności dla człowieka, że człowiek nie ma szans ich wniosków w jakikolwiek sposób skontrolować. Zatem komputery wyposażone w sztuczną inteligencję zyskują natychmiast autonomię działania względem obsługi i względem społeczeństwa. Z decyzją komputera nie da się dyskutować, bo nie ma przesłanek (człowiek) do jej podważenia. Zatem jeśli np. komputer wspomagający sztab wojskowy wyda decyzję "strzelać", to generałowi pozostanie tylko przekręcić kluczyk i nacisnąć sławny "guzik", który zapoczątkuje wojnę. A może wtedy naciśnięcie guzika tez będzie w kompetencji komputera, bo człowiek reaguje za wolno i wróg może nas uprzedzić!

A co do broni autonomicznej to jest to zagrożenie zycia dla wszystkich, bo jakikolwiek błąd w oprogramowaniu lub zbieranych i przetwarzanych danych może spowodować akcję, której nikt nie zdoła zatrzymać.
Na razie to jeszcze futurologia, ale dość straszna, żeby już dzisiaj się zacząc bać. Technika AI może przecież trafić i z pewnością trafi w ręce złych ludzi, którzy dążą do przejęcia władzy nad całym światem bądź do zniszczenia naszej cywilizacji lub choćby tylko do wywołania totalnego chaosu.
Wystarczy obejrzeć futurystyczny filmik ze strony Broń autonomiczna

Czy do takiej przyszłości zdążamy?
Oto jest pytanie!

Mar.Jan

Z wykształcenia inż. mechanik. Z powodu upadku przemysłu w latach dogorywania komuny przekwalifikowałem się na programistę. Zwolennik liberalizmu gospodarczego, w latach 90-tych popierający JKM, aktualnie poszukujący właściwszej formuły. W dziedzinie społecznej - konserwatysta.

na ile punktów oceniasz?: 

Twoja ocena: brak
5
Ogólna ocena: 5 (głosów: 6)

Dyskusja

oto Marek Bekier

Dobrze Pan to opisał. Co do

Dobrze Pan to opisał. Co do zagrożeń od razu wyciągnął Pan te, które wydają się być najgorsze, czyli wojny. Proponuję wejść w inny obszar. Wyobraźmy sobie komputer, który jest autonomicznym dyrektorem Banku Światowego!

oto Mar.Jan

Co do Banku Światowego

1. Wolałabym aby go w ogóle nie było
2. Jesli już musi byc, to komputer zaprogramowany wedlug praw ekonomii (oczywiście ekonomii wolnego rynku, czyli obiektywnej) byłby o niebo lepszy od najsłuszniejszego grona dyrektorów banku.

oto Marek Bekier

Pan to jednak jest optymistą

Pan to jednak jest optymistą ;-) Ja zakładałem, że ten super inteligentny komputer-dyrektor działałby na rzecz tych, których nasz nieoceniony Chłop Jag nazywa pupilami szatana. Wtedy nawet nie ma co marzyć o likwidacji BŚ.

oto Ireneusz

Ależ zaprogramowanie

Larum, gdy rzecz tyczy gier i taktyki autonomicznej AI. Od razu jednak hip hip hurra, gdy rzecz dotyczy ekonomii :-)))

oto Mar.Jan

Właśnie tak!

Ponieważ są dobre i złe dziedziny w których można wykorzystywac komputery.
KOmputer dobrze sobie radzi w dziedzinach, które dają się matematycznie opisać w postaci dziedziny działania oraz praw rządzących tą dziedziną.
Bez komputera nie można sobie dzisiaj wyobrazic żadnego banku, natomiast decyzje na poziomie strategicznym jak na razie musi podejmowac człowiek, ponieważ ekonomia jest dziedzina działania ludzi i nie da się matematycznie zaprogramowac działania gospodarki.

To co pisałem o Banku Światowym, to oczywiście było na poziomie żartów :)

Bank Światowy dobrze byłoby zlikwidować jako narzędzie służące międzynarodowej finansjerze, a nie np. rozwiązywaniu problemów polskiej gospodarki w interesie Polaków. To wszystko co moge na ten temat powiedziec.

oto adam_54

Futurystyczne bajdurzenie....

Nadchodzi koniec świata
Przyczyną jest pojawienie się na jesieni 2017 roku Sztucznej Inteligencji.

Rzecz w tym że inteligencja o określonym poziomie nigdy nie jest w stanie stworzyć inteligencji wyższej niż samą jest. Gdyby było odwrotnie, znaczyłoby że człowiek jest w stanie stworzyć Boga.
Jest w zasadzie odwrotnie .. człowiek , nawet działając w grupie.. a grupy tworzą oprogramowanie - posiada inteligencję niższą niż jednostka.
Tak więc spoko... żadnego końca świata, spowodowaną przez powstanie sztucznej inteligencji nie będzie.
Co najwyżej nastąpi , dalsze ułatwienie życia człowiekowi - natomiast, to że nóż można wykorzystywać tak , do krojenia chleba , jak i do zabijania ludzi... to już "inna inszość" :-)

oto Mar.Jan

Pojęcia pan nie ma o czym pisze

Za to ja pisze o faktach.
Fakty sa takie:
1. ewolucja człowieka poucza, że jednak sie rozwija, to znaczy: samodzielnie zdobywając doświadczenia rozwija swoją wiedzę i inteligencję bez pomocy gatunku o wyższej inteligencji.
2. Zasady wnioskowania dają się oprogramować.
3. Klasyfikacja pojęć według cech opisujących ich własności to dla komputerów fraszka: robia to lepiej i szybciej niz ludzie.
4. komputery potrafia sie uczyć i doskonalić algorytmy działania według znanych funkcji optymalizacyjnych
Co oznacza, że ewolucja sztucznej inteligencji jest możliwa i juz pomału się zaczyna.
A ponieważ funkcje uczące się i optymalizujące swoje działanie nie maja żadnego związku z ograniczeniami etycznymi, bo etyka jak na razie - nie daje się oprogramować, z tego wynika, że optymalne działania komputerów kierujacych się wyłacznie logiką matematyczna, moga stanowic duże zagrożenie dla cywilizacji ludzi, którzy chca organizowac swoje zycie według zasad etycznych, czyli norm cywilizacyjnych.

oto adam_54

Tak z ciekawości...

komputery potrafia sie uczyć i doskonalić algorytmy

.. pan programista zajmował się kiedyś pisaniem programów samo-uczących się ( samo modyfikujących się) ?
Zna pan jakiś program , potrafiący tworzyć kod źródłowy innego programu na zadany temat ?

oto Mar.Jan

Ciekawosc moge zaspokoic

1 nigdy nie pracowalem w dziedzinie AI ale czhtam rozne rzeczy na ten temat, bo to jest strasznie ciekawe. Do tej pory moje poglady byly zgodne z panskimi, tzn. ze zadnej sztucznej inteligencji nie ma. Ale z zacytowanej notatki wynika ze chyba wlasnie sie pojawila. Oczywiscie to jeszcze nie gen etap zeby np komputer przeczytal lierature dotyczącą historii sztuki i stal sie ekspertem piszacym prace naukowe na ten temat. Pierwsze sukcesy dotycza dziedzin latwych do zalgorytmowania, czyli matematyki i programowania. Jednak to tylko kwestia czasu. S.adz.e ze za 10 lat sztuczna inteligencja bedzie sie rozpowszechniac w aielu dziedzinach pelniac fukcje doradcze.
2. Takie systemy do tworzenia programow zopisu na schemacie sa juz testowane. Pisalem o tym nieco wyzej...

oto Godzilla

Inżynierze Święty Maryjanie

Mam na mysli koniec świata takiego jaki znamy. Nowy świat będzie zupełnie inny. I chyba już mi się nie podoba...

To prawda. Cywilizacja pracy odchodzi a nowy świat to zwycięstwo komunizmu.

oto Godzilla

Inżynierze ! Światem rządzą ci którzy mają forsę a nie komputery

A ponieważ funkcje uczące się i optymalizujące swoje działanie nie maja żadnego związku z ograniczeniami etycznymi, bo etyka jak na razie - nie daje się oprogramować, z tego wynika, że optymalne działania komputerów kierujacych się wyłacznie logiką matematyczna, moga stanowic duże zagrożenie dla cywilizacji ludzi, którzy chca organizowac swoje zycie według zasad etycznych, czyli norm cywilizacyjnych.

Nie logika matematyczna i komputery a ich właściciele .

oto Mar.Jan

i tu też się pan myli

człowiek , nawet działając w grupie.. a grupy tworzą oprogramowanie - posiada inteligencję niższą niż jednostka

Nie wiem jak pan rozumie definicje inteligencji i co ma inteligencja do efektów pracy zespołowej???
W pracy zespołowej wystepuje efekt synergii, o którym chyba pan nie słyszał, skoro wyraza przekonanie, że człowiek lepiej pracuje sam niż w grupie.

Chyba że odnosi pan pojęcie inteligencji do efektów zebrań demokratycznych, gdzie ustalenia zapadaja większością głosów. Tam faktycznie wyniki pracy umysłowej musza być niższe od wyników pracy najbardziej inteligentynych jednostek.
Ale tu mówimy o sztucznej inteligencji w odniesieniu do maszyn cyfrowych, a nie o inteligencji mierzonej mądrościa głosowań gremiów demokratycznych.

oto adam_54

Synergia.... panie szanowny...

W pracy zespołowej wystepuje efekt synergii,

może dotyczyć pracy fizycznej, przyśpieszenia pracy takiej, czy innej.... ale nigdy nie zwiększy inteligencji, ani poszczególnego składnika grupy, ani też całej grupy.
Jest odwrotnie ... mimo że poszczególne składniki grupy (ludzie) mogą mieć wysoką inteligencję ... inteligencja grupy zawsze jest niższa , niż składników grupy - a dlaczego tak jest... wyjaśniają np TUTAJ

oto Ireneusz

Bóg z policjantem

Jeden gada o komitecie, a drugi o grupie inżynierskiej multidyscyplinarnej. Dzięki grupom interdyscyplinarnym polecielismy jako ludzkość na Księżyc.
Synergia grupy jest skuteczna, gdy grupa poszukuje rozwiązania mając przed sobą cel. To w technice. Zaś w humanistyce, drogi Adamie_54 właśnie dzieje się tak, ja to powyżej pan opisał :-)

oto Ireneusz

Nauka i wiedza

Trzeba czegoś wpierw dotknąć, aby sobie zdać sprawę z własnej niewiedzy oraz aby szukać możliwości. Koło też ktoś wynalazł dlatego, że spotkał się z problemem przeniesienia za dużego ciężaru. Człowiek szedł do mamuta i mieszkał przy nim tak długo, aż go zjadł. Po wynalezieniu koła można było mamuta przywieźć do swojej wioski.

oto Mar.Jan

Pojęcie inteligencji jest dośc mętne i nie ma jednej definicji

inteligencji. Nie tylko jest wiele definicji inteligencji, ale również jest wiele odrebnych dziedzin, w których można jakoś tam wyznaczac poziom inteligencji. Jest ponoć inteligencja matematyczna oraz emocjonalna i jedna z drugą nie ma nic wspołnego. A specjaliści wymyślili conajmniej 10 dziedzin pojęciowych, w których usiłują mierzyc inteligencję.
Tzw. IQ jest to wyłącznie poziom umiejętności rozwiązywania testów na inteligencję, który w jakiś sposób odpowiada poziomowi wiedzy z róznych dziedzin i umiejętności logicznego myślenia, ale nie ma wiele wspólnego z mądrością czy doświadczeniem życiowym, czyli z umiejętnością radzenia sobie sobie w praktycznym życiu.
Jeśli zatem w ogóle mówimy o sztucznej inteligencji, nie umiejąc precyzyjnie zdefiniowac czym jest inteligencja "naturalna", to nie ma co się zbytnio emocjonowac porównywaniem możliwości komputerów i ludzi w zakresie myślenia.
Nawet komputery z AI nie myślą tak jak człowiek, tylko potrafią gramadzić wiedze i z tej wiedzy korzystac w ściśle określonym celu.
Komputer taki na pewno nie wyrazi zachwytu zachodem słońca, ani widokiem pięknej kobiety, ani też namalowanym obrazem. Za to może dokonać szybkiej analizy widma kolorów na obrazie, użytych farb oraz określić tematykę, czy to jest portret czy krajobraz.
Na podstawie tych danych być może dałby rade postawić dobrą diagnozę stanu umyslowego malarza, ale czy obraz jest dobry czy zły - tego żaden komputer jeszcze za 100 lat nie będzie potrafił. Przynajmniej komputer zbudowany zgodnie z dzisiejszym stanem wiedzy o budowie komputerów. Byc może ktoś wymysli zupełnie nowy rodzaj maszyn przetwarzających i gromadzących informacje, ale tego to już nikt nie wie.

oto Marek Bekier

Podziwiam pańską cierpliwość

Podziwiam pańską cierpliwość w wyjaśnianiu skomplikowanych pojęć. Dodam trochę od siebie. Winę za komplikacje często ponoszą naukowcy z dziedzin zbliżonych do psychologi. Mam wrażenie, że trochę uciekają od przyznania, że coraz lepsze maszyny zaczynają tą inteligencję mieć. Tymczasem można zastosować bardzo stare podejście Allana Turinga i przeprowadzić wymyślony przez niego test. Nie będę tutaj opisywał na czym polega Test Turinga bo to może sobie każdy wyguglać. Powiem tylko, że współczesne maszyny ten test przechodzą a opisane przez Pana maszyny, które są tak naprawdę zaawansowanymi sieciami neuropodobnymi przewyższają człowieka w niektórych, wąskich dziedzinach.

oto Mar.Jan

co do stosunku człowiek-Bóg

inteligencja o określonym poziomie nigdy nie jest w stanie stworzyć inteligencji wyższej niż samą jest. Gdyby było odwrotnie, znaczyłoby że człowiek jest w stanie stworzyć Boga.

Pierwsze zdanie jest nieprawdziwe. Inteligencja człowieka wzrasta wraz z ilościa posiadanej wiedzy i wytrenowaniem umysłu w stawianiu i rozwiązywaniu problemów. Zatem inteligencja oczywiście rośnie wraz ze wzrostem poziomu cywlizacyjnego. Oczywiście nieliniowo.

Jeśli pojęcie "Bóg" odnosi sie do istoty wykraczającej poza obszar istnienia materii znajdującej się w granicach znanego nam Wszechświata, poza znanymi nam wymiarami przestrzeni i czasu i może być uważana za byt nieskończony i nieograniczony niczym co jestesmy w stanie wyrazic znanymi nam pojęciami, to takie gdybanie na temat stwarzania Boga nie ma najmniejszego sensu. Człowiek inteligentny taki pomysl musi od razu odrzucic jako bezsensowny, ponieważ:
Byt stworzony wewnątrz zamkniętego środowiska zawierającego określony zapas energii nie może stworzyć niczego wykraczającego poza dostępną mu przestrzeń oraz energię. Nie wiemy niczego o bytach poza masą, energią, czasem i przestrzenią znanego nam Wszechświata. Nie istnieją żadne pojęcia, którymi dało by się to opisać.

oto mmm777

Może trochę Lema dla równowagi :)

“GOLEM XII, pełniący w czasie kryzysu patagońskiego funkcję szefa sztabu generalnego, odmówił współpracy z generałem T. Oliverem, przeprowadziwszy bieżącą ocenę ilorazu inteligencji tego zasłużonego dowódcy. Sprawa pociągnęła za sobą dochodzenia, podczas których GOLEM XII obraził dotkliwie trzech delegowanych przez Senat członków komisji specjalnej. Rzecz udało się zatuszować, a GOLEM XII, po kilku dalszych tarciach, przypłacił je całkowitym demontażem. Jego miejsce zajął GOLEM XIV (trzynasty został odrzucony w stoczni, ponieważ wykazał leszcza przed rozruchem nieusuwalny defekt schizofreniczny). Rozruch tego molocha, którego masa psychiczna dorównywała wyporności pancernika, trwał bez mała dwa lata. Już przy pierwszym zetknięciu się ze zwykłą procedurą układania nowych, corocznych planów rażenia nuklearnego wykazał ten — ostatni z serii — prototyp objawy niepojętego negatywizmu. Podczas kolejnej sesji próbnej na posiedzeniu sztabu przedłożył przed grupą ekspertów psychonicznych i militarnych zwięzłe expose, w którym ogłosił swoje zupełne desintéressement dla supremacji wojennej doktryny Pentagonu w szczególności, a pozycji światowej USA w ogóle, i nawet zagrożony rozbiórką, nie zmienił swego stanowiska.”

oto chłop jag

Komputera nie wyposaży

się w duszę - natomiast rozszerzanie danego programu przez komputer to wyższy poziom tworzenia oprogramowania - i tyle.
Wniosek?
Czeka nas wspinanie się na coraz wyższe poziomy oprogramowania - jednak to człowiek będzie nadal stanowił barierę do komputera - i jego oprogramowania vide - powyższy wpis adam_54 @ z którym się zgadzam w całości.

oto Mar.Jan

AI oznacza przekroczenie bariery, poza która człowiek nie

zdoła się dostać, ponieważ zbyt wolno mysli i ma zbyt ograniczoną pamięć.
Zatem wprowadzenie komputerów które potrafią podejmowac autonomicznie decyzje, stwarza zagrożenie, że ich działanie wymyka sie spod wszelkiej kontroli.
A co do programowania: pewna firma niedawno zaprezentowała program, ktory tworzy kod stron internetowych na podstawie narysowanego schematu działania. Program analizuje schemat graficzny prezentujący logikę działania systemu i następnie pisze kod realizujacy te działania w postaci stron serwisu internetowego.
Zatem, od wymyślenia logiki działania systemu i narysowania go na ekranie komputera, do powstania działająćego prorgamu upływa kilka minut. Programista musiałby spędzić np. tydzień pisząc i poprawiając napisane błedy. Komputer programuje bezbłednie.
Oczywiście błąd może tkwić w samym schemacie, ale taki program, który analizuje logike działania wykryje go bez problemu.
Zatem przyszłośc programowania wygląda tak, że projektant softwaru bedzie musiał tylko właściwie sformułowac cel działania systemu, a komputer sam stworzy potrzebne oprorgamowanie.
Programisci aplikacji użytkowych pójda do lamusa historii, tak jak bednarze czy kołodzieje.

Komputery będa same tworzyć dla siebie oprogramowanie, co sprowadzi się do tego, że człowiek będzie tylko zlecał wykonanie działania, a stworzenie programu do tego działania będzie wewnetrzną sprawą komputera.
Na razie to oczywiście brzmi jak fantazja, ale moge sobie bez problemu wyobrazic komputer, który w wyniku własnych działan optymalizacyjnych postanowi cos zmienic w działaniu sieci komputerowej, wykonana w systemie niezbędne zmiany i to zrobi nie pytając się nikogo o zdanie. A człowiek następnego dnia włączy komputer domowy, aby sprawdzić pocztę, a tu figa z makiem: panski system jest niekompatybilny z wymaganiami sieci. Idz pan do diabła i nie zawracaj panu komputerowi głowy, bo mamy tu wazniejsze problemy do rozwiązania niż tłumaczenie tumanowi o co chodzi!

oto chłop jag

AI oznacza przekroczenie

AI oznacza przekroczenie bariery, poza która człowiek nie zdoła się dostać, ponieważ zbyt wolno myśli i ma zbyt ograniczoną pamięć.

Kto postawił ową barierę - człowiek czy komputer - pytam retorycznie? Ponadto to samo można było powiedzieć czy to w stosunku do liczydła (takie koraliki na drucikach w drewnianej ramce) czy to w stosunku do suwaka logarytmicznego.
Wniosek?
Komputer zawsze będzie tyko coraz doskonalszym narzędziem człowieka - ograniczonym - ograniczeniem percepcji człowieka. Natomiast program współtworzony przez komputer z inicjacji czlowieka - nigdy niestanie się nieczytelny dla tegoż człowieka.

oto Mar.Jan

Jak juz napisałem wyżej

sa już stworzone systemy, które same pisza oprogramowanie według projektu.
Mogę sobie wyobrazić komputer, który sam sobie stworzy nowy język programowania w którym będzie tworzył dla siebie oprogramowanie.
Jeżyki programowania są językami formalnymi, składają się z definicji i reguł. Maszyna, która potrafi nauczyc się gry w szachy na podstawie poznanych reguł, może też sama napisac dla siebie program, jeśli będzie potrzebowała rozwiązac jakis problem, do którego będzie potrzebna modyfikacja w jakichs programach, albo całkiem nowy program.
Myślę, że takie maszyny powstaną w perspektywie 10-20 lat.
A przypominam, że 20 lat temu Internet był w powijakach. Uzywali go tylko wtajemniczeni programiści i to tylko w trybie tekstowym. Zwykli ludzie nawet nie wiedzieli że cos takiego istnieje.
Proszę nie lekceważyć postępu w IT, bo jest to postęp geometryczny...

oto chłop jag

Proszę nie lekceważyć postępu

Proszę nie lekceważyć postępu w IT, bo jest to postęp geometryczny...

Ani epoka analogowa nie uczyniła ani epoka cyfrowa nie uczyni człowiek podczłowiekiem - bo czynienie ludzi podludźmi - to domena pupili szatana - bez względu na epokę.
Wniosek
Faktem jest, że zdobycze technologiczne człowieka służą potem pupilom do ubezwłasnowolnienia tegoż człowieka - ale to pupile a nie IT.
Na koniec - zgoda, że stosowny czip wszczepiony człowiekowi może nim poniewierać ale przecież i wiadro gorzały też człowieka sponiewiera.

oto Mar.Jan

Kiedy Amerykanie zbudowali bombę atomową

to w zasadzie wszystko było wiadomo na temat skutków wybuchu atomowego.
Mimo to, spuszczono dwie takie bomby na japońskie miasta. A kiedy zobaczono skutki praktyczne tego zastosowania i do tego okazało się, że broń atomową maja tez Rosjanie, wtedy dopiero "ludzkość" poszła po rozum do glowy i zaczęły się działania w celu wyeliminowania zagrożenia atakiem atomowym. No i dobrze.

Pytanie: czy musimy doznać w skali światowej skutków działan złych ludzi lub błednie zaprogramowanych komputerów, aby zając sie produkowaniem odpowiednich zabezpieczeń w ich oprogramowaniu?
Jak na razie panuje wolna amerykanka w tej branży, bo możliwości komputerów do tej pory były zbyt ograniczone. Ten czas własnie mija.
Warto zatem chociaz dyskutować na ten temat, aby zdac sobie sprawę z zagrożeń, zanim nadejdą.

oto chłop jag

Warto zatem chociaz

Warto zatem chociaz dyskutować na ten temat, aby zdac sobie sprawę z zagrożeń, zanim nadejdą.

Tutaj pełna zgoda. Należy postąpić z technologią IT tak - jak postąpiono z bombą "A" czyli dzielić się bezzwłocznie z innymi - swoimi osiągnięciami. Dokumentację kompletną bomby "A" przekazano kiedyś zza wielkiej wody - bolszewikom do Moskwy w ramach tzw. równowagi.
Wniosek?
Nie ma innego wyjścia - aby nie zagonić ludzi z całego świata do jednej obory lub chlewa.

oto D.

2 porządki: malejącej i rosnącej "doskonałości"

1.
Bóg tworzy człowieka. Człowiek jest gorszy od Boga.
Człowiek tworzy robota. Przez analogię robot jest gorszy od człowieka.

2.
Ryba ewoluuje w płaza. Płaz w gada. Gad w ssaka. Ssak w człowieka. Człowiek w robota. Robot w Boga.

oto D.

Człowiek też robot.

Zaprogramowany na rozmnożenie się, tj. wyprodukowanie kolejnego robota.

Te futurystyczne historie, że zagrożeniem będzie AI, która rozwiązuje trudne zadania, jak pokój na świecie i wprowadza supertotalitaryzm.
A wystarczy "robotowi" dać zwierzęce zadanie reprodukcji, bez nadrzędnego "metafizycznego" celu. Skończone zasoby materialne i źródła energii nauczą AI korzyści z likwidacji konkurencji.

oto Mar.Jan

Człowiek nie jest żadnym robotem

Człowiek nie jest zaprogramowany. Sam określa cele swojego działania według istniejąych możliwiości.
Dokładnie na tym samym polega działanie sztucznej inteligencji. Na razie to jeszcze stan niemowlęcy, ale - jak wspominałem - postep w dziedzinie technik informatycznych można porównac do postepu geometrycznego. Zakres autonomii działania komputerów będzie coraz szybciej się poszerzał.
Zatem wszystkiego można się spodziewać w nadchodzącym dziesięcioleciu 2020-30.

oto Dubitacjusz

Indywidualnie ("personalistycznie") patrząc nie jest.

ale patrząc na ludzkość jako całość, to realizuje program biologiczny przetrwania i rozmnożenia się.

Po drugie, nie zrozumiał Pan sensu komentarza. AI nie jest potrzebne ludzkie określanie celów. Wystarczy dać cel zwierzęcy i puścić maszynę w ruch.

oto Mar.Jan

Istotnie: nie rozumiem ani powyższego komentarza

ani pańskiego tlumaczenia.
Niepotrzebnie skomentowałem to co jest niezrozumiałe i abstrakcyjne.
To znaczy: odniosłem się do tego, co zrozumiałem. Ale do zrozumienia jest to zbyt trudne, czyli mętne.

oto Skanderbeg

Ciekawe wyjaśnienie.

Czyli jak coś jest zbyt trudne to jest mętne? Niech jeszcze przeczyta to młodzież, to obali wszelakie autorytety. Oczywiście, takie "zbyt trudne".

oto Mar.Jan

Jeśli napisałem "zbyt trudne" to miałem na myśli własnie

mętność. Usiłowałem wyłowić coś dającego się zrozumieć i poniosłem ponoć porażkę. Więc jest to dla mnie zarówno zbyt trudne, jak i mętne.
Ale to nie znaczy, że jak coś jest zbyt trudne, to musi być mętne.
Jednakże, trzymając się konkretów, prosze mi wyjasnić, jak to rozumieć:

Człowiek też robot. Zaprogramowany na rozmnożenie się, tj. wyprodukowanie kolejnego robota.

Jeśli tak rozumieć definicje robota, to jest to robot bardzo kiepsko oprogramowany, bo nie kazdy człowiek zajmuje się robieniem dzieci ani tez nie kazdy człowiek robi roboty.
No i w tej kategorii komputery z pewnością jeszce nie są "robotami".

Te futurystyczne historie, że zagrożeniem będzie AI, która rozwiązuje trudne zadania, jak pokój na świecie i wprowadza supertotalitaryzm.

Tego zdania w ogóel nie rozumiem, więc go nie analizuję.

A wystarczy "robotowi" dać zwierzęce zadanie reprodukcji, bez nadrzędnego "metafizycznego" celu

Tego tez w ogóle nie rozumiem, więc nie analizuję.

Skończone zasoby materialne i źródła energii nauczą AI korzyści z likwidacji konkurencji.

Tego zdania także nei da się zrozumiec w żadnym zakresie pojęć.

Zatem, to co zrozumiałem z całego elaboratu, to, że człowiek jest robotem jak zwierzę i komputer i jego jedynym celem jest rozmnażanie.
Do tego się nieudolnie odniosłem, nie wiadomo po co!

oto Mar.Jan

Co ma zdolnośc myslenia do:

Człowiek też robot. Zaprogramowany na rozmnożenie się, tj. wyprodukowanie kolejnego robota.

Jeśłi program działania człowieka obejmuje tylko rozmnażanie się, to myślenie do tego całkiem jes niepotrzebne.
Człowiek nie jest robotem i nie jest zaprogramowany. ma WOLNĄ WOLĘ i rozum, w przeciwieństwie do robotów, nawet majacych sztuczna inteligencję.
Sztuczna inteligencja, w przeciwieństwie do inteligencji ludzkiej jest okreslona możliwościami programy wczytanego do komputera.
Człowieka nie da się przeprogramowac.
Dalsze dyskutowanie nad głupstwami, które ktos napisał nie zastanowiwszy się dłużej niż 10 sekund to strata czasu.

oto Skanderbeg

Jest pan pewien?

Szwecja pokazała, że człowieka można zaprogramować. Zmiana charakteru narodowego jest programowaniem. I cała polityczna poprawność, gdy człowiek sam wie co ma mówić. Oczywiście, to stosowanie "inżynierskich" metod dla człowieka. A człowiek jako element korporacji to nie robot? Można to też nazwać tresurą, ale na jedno wychodzi.
A czy na pewno człowiek posiada wolną wolę? Czy taki Judasz miał wybór?

oto Ireneusz

Miał

Czy taki Judasz miał wybór?

A czy człowiek widzący wśród płomieni dziecko oczekujące na pomoc ma wybór? Oczywiście, że ma.

Twój komentarz?

Filtered HTML

  • Allowed HTML tags: <a> <em> <i> <strong> <b> <cite> <blockquote> <code> <ul> <ol> <li> <dl> <dt> <dd> <center> <h1> <h2> <h3> <h4> <h9> <img> <font> <hr> <span> <bgcolor> <del> <iframe> <span>
  • Youtube and Vimeo video links are automatically converted into embedded videos.
  • Lines and paragraphs break automatically.
  • Web page addresses and e-mail addresses turn into links automatically.

Plain text

  • No HTML tags allowed.
  • Lines and paragraphs break automatically.
  • Web page addresses and e-mail addresses turn into links automatically.