Technika - co niesie najbliższa przyszłość
: 2 sty 2021, o 15:40
Gal, wydaje mi się, że to co nas odróżnia od maszyn to wolna wola, tego nie da się zaprogramować
Nie użyłem słów "swoich" i "swojej", ale właśnie o taki przypadek mi chodziło, bo w masowym ludobójstwie zawsze jacyś rodzice mordują dzeci i na odwrót.
O! To jest bardzo ciekawe zagadnienie i dobry argument! Przecież roboty militarne to będzie najbliższy cel w robotyzacji (chyba większość programów w BD była finansowana przez DARPA), więc jak im się każe zabijać wrogów - ludzi, to nie da się im zaszyć etyki Asimowa - racja.
A dlaczego tak sądzisz?Alan, Alan, Alan! pisze: ↑2 sty 2021, o 17:56Każdy gatunek, albo bardziej "gatunek" chce przetrwać. Jak już tę inteligencję nabędą.
Można poprawić to i owo, ale nie da się. Nie Windowsa. I to nie dlatego, że Windows jest jakiś zły.
Nie potrzeba bunu robotów militarnych.
To były piękne czasy. Ja wtedy miałem zainstalowany FreeBSD a potem też PLD: Polską Dystrybucję Linuxa . A na uczelni mieliśmy Solaris na Spark.
Really?Alan, Alan, Alan! pisze: ↑2 sty 2021, o 19:45Gal, cały czas tkwisz w mylnym błędzie, że jakieś raz zaprogramowane podstawy etyczne pozostaną niezmienne.
To nie jest prawda, bo po pierwsze jak coś da się zaprogramować, to zwykle da się przeprogramować.
O tym pisałem. Nadal - błąd ludzi.
Dotąd dyskutowaliśmy o "Terminatorze", a Ty chcesz zmienić temat na "Matrix".Alan, Alan, Alan! pisze: ↑2 sty 2021, o 19:45A po czwarte jako tłuszcza lubimy to. W jak krótkim czasie parę miliardów ludzi dało sobie przeszczepić smartfony? Facebooki? Dzisiaj sztuczna inteligencja (która nią nie jest) jest odmieniana przez wszystkie przypadki w reklamach.
Uwielbiamy wygodę, technologię, są tacy co by spalili sąsiada bo nie lubi Apple albo Androida. W związku z czym będziemy przymykać oko na drobnostki, które sami sobie odbieramy. Dzisiaj auto hamuje samo, za chwilę będzie samo jeździło. Małymi kroczkami...
Przecież ten smutny los wcale nie musi być taki, że jakiś robot wykosi z milion ludzi. Wcale nie musi polegać na zabijaniu. Możemy po prostu przestać żyć w świecie, który stworzyliśmy. Z ograniczeniami, z zakazami, z selekcją, bo sztuczna inteligencja stwierdzi, że tak lepiej.
Nie prawda? Algorytmy Facebooka wiedzą lepiej co pokazać, Twittera, Google, i każdego innego też, to co sztuczny "mózg" gorszy?
A tak, przecież będzie mieć wdrukowane swoje 3 przykazania. I nigdy, ale to nigdy ich nie złamie.
Ale jakie to ma znaczenie co my robimy z naszym software?Gal pisze: ↑2 sty 2021, o 20:55Really?
To dlaczego ta lisica siedzi w norze, kura wysiaduje jajka, a (większość) kobiet jak im (boleśnie zwykle), wyjdzie z trzewi coś pomarszczonego, czerwonego i niezbyt pięknego (bądźmy szczerzy), to nagle czuje niepohamowaną miłość do tego czegoś i uważa to za ósmy cud świata? Z całą pewnością najpiękniejsze dziecko na świecie? To nie jest ocena - to jest pewność! A dlaczego jeszcze do tego niektórzy faceci się do tego ślinią i im poziom oksytocyny rośnie?
Ma to sens?
Przecież przy naszej - jakże wysokiej - inteligencji już dawno powinniśmy się przeprogramować i wziąć pod kontrolę te kody z zamierzchłej przeszłości. Żadnych dzieci - dzieci są obrzydliwe, śmierdzą i kosztują.
A nie potrafimy.
Różnica jest w hardware i to nie całym. A mówimy o software.
Chciałem zasugerować, że jak coś jest dobrze zaprojektowane i zaprogramowane to działa bez względu na wszystko i przez miliony lat.Alan, Alan, Alan! pisze: ↑2 sty 2021, o 21:04Ale jakie to ma znaczenie co my robimy z naszym software?Gal pisze: ↑2 sty 2021, o 20:55Really?
To dlaczego ta lisica siedzi w norze, kura wysiaduje jajka, a (większość) kobiet jak im (boleśnie zwykle), wyjdzie z trzewi coś pomarszczonego, czerwonego i niezbyt pięknego (bądźmy szczerzy), to nagle czuje niepohamowaną miłość do tego czegoś i uważa to za ósmy cud świata? Z całą pewnością najpiękniejsze dziecko na świecie? To nie jest ocena - to jest pewność! A dlaczego jeszcze do tego niektórzy faceci się do tego ślinią i im poziom oksytocyny rośnie?
Ma to sens?
Przecież przy naszej - jakże wysokiej - inteligencji już dawno powinniśmy się przeprogramować i wziąć pod kontrolę te kody z zamierzchłej przeszłości. Żadnych dzieci - dzieci są obrzydliwe, śmierdzą i kosztują.
A nie potrafimy.
Komputery będą miały swój i sobie z nim zrobią co będą uważać za stosowne. Może będą mieć swój COVID-2249 i im się zmutuje core systemu, a może jakiś wolnościowiec programista uzna, że powinny same wypracować swój własny zbiór zasad a nie byc ograniczane przez nas. Jak mają rozwijać inteligencję jak na początku im dajemy mocne ograniczenia. Nie, tego jabłka nie możesz.Różnica jest w hardware i to nie całym. A mówimy o software.
Nie. Jak coś jest zaprogramowane to dziala teraz.Gal pisze:Chciałem zasugerować, że jak coś jest dobrze zaprojektowane i zaprogramowane to działa bez względu na wszystko i przez miliony lat.Alan, Alan, Alan! pisze: ↑2 sty 2021, o 21:04Ale jakie to ma znaczenie co my robimy z naszym software?Gal pisze: ↑2 sty 2021, o 20:55Really?
To dlaczego ta lisica siedzi w norze, kura wysiaduje jajka, a (większość) kobiet jak im (boleśnie zwykle), wyjdzie z trzewi coś pomarszczonego, czerwonego i niezbyt pięknego (bądźmy szczerzy), to nagle czuje niepohamowaną miłość do tego czegoś i uważa to za ósmy cud świata? Z całą pewnością najpiękniejsze dziecko na świecie? To nie jest ocena - to jest pewność! A dlaczego jeszcze do tego niektórzy faceci się do tego ślinią i im poziom oksytocyny rośnie?
Ma to sens?
Przecież przy naszej - jakże wysokiej - inteligencji już dawno powinniśmy się przeprogramować i wziąć pod kontrolę te kody z zamierzchłej przeszłości. Żadnych dzieci - dzieci są obrzydliwe, śmierdzą i kosztują.
A nie potrafimy.
Komputery będą miały swój i sobie z nim zrobią co będą uważać za stosowne. Może będą mieć swój COVID-2249 i im się zmutuje core systemu, a może jakiś wolnościowiec programista uzna, że powinny same wypracować swój własny zbiór zasad a nie byc ograniczane przez nas. Jak mają rozwijać inteligencję jak na początku im dajemy mocne ograniczenia. Nie, tego jabłka nie możesz.Różnica jest w hardware i to nie całym. A mówimy o software.
I tyle.
Współczesny software coraz bardziej jest budowany, aby dział w miarę uniwersalnie i był zależny od kontekstu.Alan, Alan, Alan! pisze: ↑2 sty 2021, o 21:31Nie. Jak coś jest zaprogramowane to dziala teraz.
O ile mówimy o takim prawdziwym software.
Ale przecież od dwóch stron pokazuję przykład czegoś co jest zaprogramowane, działa i jest niezmienne od milionów lat.Alan, Alan, Alan! pisze: ↑2 sty 2021, o 21:31Nie. Jak coś jest zaprogramowane to dziala teraz.
O ile mówimy o takim prawdziwym software.
Nie masz pewności czy nie zostanie zmodyfikowane, bo nie ma czegoś takiego jak doskonale zabezpieczenia.
U ludzi ten problem, przynajmniej częściowo, rozwiązany jest zaburzeniami zwanymi uczuciami.
Oraz jeszcze raz. Kto programuje? Kompilatory nie przeprowadzają testów na człowieczeństwo jeszcze, więc skompilują cokolwiek co nie zawiera błędów kompilacji.
Byc może taki kod byłby otwartozrodlowy, a być może zamknięty. A być może byłoby kilka wersji tak jak jest kilka os-ów.
A my od dwóch stron nie rozumiemy dlaczego się na tym przykładzie opierasz.Gal pisze:Ale przecież od dwóch stron pokazuję przykład czegoś co jest zaprogramowane, działa i jest niezmienne od milionów lat.Alan, Alan, Alan! pisze: ↑2 sty 2021, o 21:31Nie. Jak coś jest zaprogramowane to dziala teraz.
O ile mówimy o takim prawdziwym software.
Nie masz pewności czy nie zostanie zmodyfikowane, bo nie ma czegoś takiego jak doskonale zabezpieczenia.
U ludzi ten problem, przynajmniej częściowo, rozwiązany jest zaburzeniami zwanymi uczuciami.
Oraz jeszcze raz. Kto programuje? Kompilatory nie przeprowadzają testów na człowieczeństwo jeszcze, więc skompilują cokolwiek co nie zawiera błędów kompilacji.
Byc może taki kod byłby otwartozrodlowy, a być może zamknięty. A być może byłoby kilka wersji tak jak jest kilka os-ów.
Bo jest dobrze zaprogramowane.
I będzie tak działało dopóki roboty nas nie wystrzelają, lub nie przejmą nad nami kontroli. I może tak ma być.
Ale póki co. to oprogramowanie jest bulletproof.
Chyba nie tutaj jest problem. Ludzie się mordują, zwierzęta zjadają a ludożercy twierdzą że ludzie są dobrzy. Przeciętny człowiek wartościuje i racjonalizuje, do tego ma te instynkty w tyle wizji nad którymi nie panuje. Dlatego zazwyczaj swoich dzieci czy innych bliskich się nie morduje, ale tamtych innych, obcych i wrogów to inna bajka. I łatwiej przekonać do mordowania obcych niż swoich. Tak samo pewnie mają łatwiej operatorzy dronów siedząc w ciepłej bazie strzelając do jakichś talibów na ekranie od tych którzy patrzą na taką samą głowę między muszką a szczerbinką.
Nie znam się na programowaniu ale się z tym zgadzam. Wolna wola to, można by inaczej powiedzieć, zdolność do działania nieracjonalnego ale słusznego z naszej perspektywy. A może zupełnie bezsensownego ale jakoś zaprogramowanego. Czy można zaprogramować logicznie tak, aby program działał wybiórczo nieliniowo i nielogicznie?
No niby nie ma, generalnie zmiany podstępują ale są ewolucyjne. I nie przełamują standardów ale statystycznie widać to w demografii.
Bo jest oczywistym przykładem, że da się stworzyć oprogramowanie odporne na jakiekolwiek próby ingerencji zaczynając z obiektem o IQ "0".Alan, Alan, Alan! pisze: ↑2 sty 2021, o 21:58A my od dwóch stron nie rozumiemy dlaczego się na tym przykładzie opierasz.
To jakiś malutki fragment całego wielkiego softu. Choć też wątpię aby przez miliony lat nie było aktualizacji
Tak to, że kobiety (a i część facetów) cieszy się z narodzin potomka, a nie ma z czego, bo to tylko kłopoty i wyrzeczenia, albo jeszcze większe kłopoty i wyrzeczenia. No to dlaczego tak robią, a co więcej, tak czują?