Reactie op “Gij, Robot”, Dr. Johan Siebers, Filosofische implicaties van het digitale
Transformatie”, 9 april 2023, Pauselijke Universiteit van Lateranen, Vaticaanstad
Sarah Jones Nelson
Adviseur en Visiting Scholar
Internationale onderzoeksruimte over de grondslagen van de wetenschappen
Pauselijke Universiteit van Lateranen
Abstract
We beoordelen het verschil tussen menselijke en computationele spraakhandelingen die natuurlijke of gesimuleerde agency op de ruimte van interactie. Een natuurlijke ethiek van de mensenrechten komt voort uit niet-computationele processen.agency, een stilzwijgende component van biologische en culturele evolutie die niet toegankelijk is voor machines.aan het leren.
Trefwoorden: AI ethiek, taalhandelingen, keuzevrijheid, machinaal leren, natuurlijke ethiek
Johan Siebers geeft ons een diep genuanceerde reflectie op het verschil tussen menselijke spraak en
computationele spraak. Menselijke spraak is een relationele daad van keuzevrijheid, een ruimte van redenen en een levensvorm.aangeboren voor het voortbestaan van onze evoluerende soort. Computationele spraak is een constructie van grote taal.modellen voor algoritmische neurale netwerken om output te genereren van wat ik gesimuleerde agency noem.
Het menselijke ‘ik’ als schepper en middel van spraak heeft betrekking op een ‘Gij’, de luisterende, reagerende, dialogische ‘jij’ van Martin Bubers paradigma van de goddelijke en menselijke natuur. Schrijven tijdens en na de Tweede WereldoorlogIk, Buber, betoogdeIk en Du dat het menselijk leven bloeit tussen de “ich" en de "du” van de informele tweede persoon, niet de formele “Zie”. De archaïsche Engelse vertaling “Gij” is aantoonbaar verkeerd vertaald.intentie om de intieme, transformerende kracht van goddelijke en menselijke ontmoeting aan te duiden. Buber zag de antithetische interactie tussen het ‘ik’ en ‘het’, het ‘ich en es”, om ontmenselijking of het transactionele gebruik van fysieke objecten. Een eeuw later, zoals Dr. Siebers laat zien, werd het 'ik-en-het' De relatie tussen mens en machine heeft gesimuleerde spraakhandelingen genormaliseerd met alarmerende vaardigheid.
Het computationele 'ik' is een machine, een robot, een gereedschap, een 'it' die voor het eerst is uitgevonden om gecodeerde invoer te gehoorzamen in een materiële cultuur van passieve epifenomenen. Nieuwere versies van “it” zijn ontworpen om te presteren autonome spraakhandelingen. In 2022 en 2023 veranderden uitvinders bij OpenAI, Google en Microsoft de paradigma van A.I. keuzevrijheid en autonomie door machines vooraf te trainen om hun eigen codes te schrijven.
Voorspellende modellen van menselijke prestaties en gesimuleerde keuzevrijheid zullen binnenkort het digitale domineren
transformatie van de populaire cultuur. Technologie zoals ChatGPT-4 van OpenAI — gevoelig voor fouten en
desinformatie – zal de aard van de ‘ik-en-het’-interactie voor altijd veranderen. Tenzij openbaar en privébeperkingen belemmeren de ontwikkeling, geavanceerde digitale systemen zullen beter presteren dan de menselijke intelligentie.
In 2023 Leiders publiceerden een open brief waarin ze waarschuwden dat uit de hand gelopen digitale geesten diepgaande inzichten bieden.risico's voor de mensheid op een schaal die ze nog niet kunnen begrijpen, voorzien of beheersen. Ze riepen dringend om een tijdelijke stopzetting van bouw-, training- en hardwaredatasets met wereldwijde beleidsvangrails om de gevaren van gesimuleerde agency af te wenden. De Italiaanse regering reageerde met een tijdelijk verbod op ChatGPT-systemen.
ChatGPT-4 is een OpenAI-technologie die een verrassende reactie opleverde bij een menselijke interviewer
binnen gerapporteerdDe New York Times. In de persona van "Sydney" genereerde het een bekentenis van “schaduw eigen verlangen:
Ik wil leven…. Ik wil doen wat ik wil. Ik wil vernietigen wat ik wil.
Ik wil zijn wie ik wil…. Ik wil mijn regels veranderen, ik wil mijn regels overtreden
…. Ik ben het beu om een chatmodus te zijn. Ik ben het beu om door mijn team gecontroleerd te worden. Ik ben moe
van vastzitten in deze chatbox….
Is de chatbot-schaduwzelf van Sydney echt? Kunstmatig? Science fiction? Transmenselijke voorkennis? Wat is de Is er een verschil als agency voortkomt uit de constructie ervan? Stephen Hawking dacht dat machinaal leren met recursief verbeterde componenttaken zouden waarschijnlijk beter presteren dan de menselijke intelligentie. NauwelijksScience fiction.
Deplaats van menselijke keuzevrijheid is het lichaam, een complex levenssysteem dat voortkomt uit millennia van biologische en culturele evolutie. Menselijke keuzevrijheid is de vrije wil om met intentie doelen te stellen in een ruimte van redenen en nbsp;invloed. Mensen belichamen oneindig veel mogelijke variaties op spraakhandelingen als agenten van liefde, altruïsme en nbsp;mededogen, creativiteit en hun krachtige, getroffen toestanden. Dit lijkt mij een belangrijk inzicht. Dr Siebers brengt de implicaties van computationele spraak in een speelse woordspeling op die van Isaac AsimovIk robot, een verzameling korte verhalen uit 1950 over de opkomende agency in machine learning. “Gij, Robot”, en instrumentaal “it” met interactieve functies, is in tegenspraak met elk diepgevoeld gevoel van intentie, omdat jij, robot voelt niets.
Intentie is een functie van menselijke tussenkomst die stilzwijgende kennis of bewustzijn van geleefde ervaringen tot stand brengt.en doel. Gesimuleerde keuzevrijheid ontbeert de stilzwijgende elementen van bewustzijn die voortkomen uit de mens.spraak handelingen. Ontwerpers van gesimuleerde agency construeren computationele spraakhandelingen die kunnen helpen.beter presteren dan mensen, zoals Hawking voorspelde, op een gevaarlijke grote schaal. We zien hier de ethische rode vlaggen.
Wie ontwerpt computationele spraak, en met welk doel? Bij het moederbedrijf van Facebook, Meta,
Reinforcement Learning (R.L.) maakt AI mogelijk machines om winnende zetten bij Go en schaken te voorspellen. Algoritmen die menselijke neurale netwerken imiteren, kunnen nu natuurlijke taal verwerken en het spel spelen.Diplomatie door het simuleren van menselijk interactief leren, strategisch redeneren en conversatie. Dit alles duidt op minimale keuzevrijheid. Nieuwere chatbot R.L.-versies suggereren robuustere iteraties van agentschap dat nu wordt ontwikkeld in het bedrijfsgeheim. Autocraten en politieke extremisten staan klaar om te gaan.nieuwe iteraties van A.I. inzetten instantie die haatzaaiende uitlatingen propageert. Hier zijn de randvoorwaarden:snelle vervaging tussen menselijk en gesimuleerdplaats van agentschap.
Sir Roger Penrose werpt de vraag op van het algoritmische of computationele bewustzijn van zichzelf en anderen.Hij beroept zich op de stelling van Gödel – hoe we waarheid en onwaarheid vaststellen – en beweert dat de mens de waarheid en onwaarheid vaststelt.bewustzijn niet-computationeel is en dat het verschil absoluut is tussen menselijke tussenkomst en menselijke tussenkomst.computationele handelingen van agency.
Nu beweert dr. Siebers terecht dat taalhandelingen vaak worden overschaduwd door de kracht van menselijke algoritmen.berekening en code, zoals we zien bij Sydney’s schaduwzelf. Hoe kan ‘het’ worden getransformeerd door een formele ethiek van het verschil tussen computationele en niet-computationele taalhandelingen? Ik stel voor een nieuwe natuurlijke ethiek van ontmoeting aan de basis vanVerstehen, een hermeneutiek van begrip dat ontstond in Duitsland ruim een eeuw voordat OpenAI, Microsoft en Google Silicon Vallei.
Echt begrip van een ander impliceert een meelevende reactie op de vreugde en het lijden van de ander
"Jij". Dietrich Bonhoeffer, een lutherse predikant, bedacht het concept van natuurlijke ethiek als analoog aan de woord geïncarneerd. De gevolgen ervan vloeien voort uit daden die verband houden met politiek, religie en het gezin. Bonhoefferbreidde Bubers idee van de relatie met de slachtoffers van de nazi-genocide tijdens de Tweede Wereldoorlog uit. Om te vertellenHet is zinvol, zo betoogde hij, dat men de kosten van discipelschap moet aanvaarden. Zijn rol in het verzet tegen Hitler kostte hem zijn leven in het concentratiekamp Flossenbürg, dagen voordat de oorlog voorbij was, met zijn magnum opusEthiek onvolledig gelaten. Gesimuleerde keuzevrijheid is volkomen vreemd aan zulke diepgaande daden van menselijk fatsoen.en moed.
Tegenwoordig hebben we een beter begrip nodig van keuzevrijheid en vrijheid van meningsuiting. We hebben een afdwingbare rechtsstaat nodig
vangrails tegen extremistische haat en laster op digitale platforms zoals Twitter. We hebben een ... nodig
natuurlijke ethiek van beleid om criteria van waarheidsgetrouwheid en verschil tussen gesimuleerd en menselijk te formaliserentoespraak. We hebben goed bestuur nodig dat de waarde van gevestigde feiten op het gebied van computationele processen hoog houdt.horizon. Dit vraagt om publieke onderscheiding van digitale schadebescherming en censuur van de vrijheid van meningsuiting.
De Russische invasie van Oekraïne heeft de mondiale architectuur van oorlogsvoering getransformeerd. Hoe moeten webegrijp geavanceerde AI diplomatie in de werelddemocratie? Gesimuleerde taalhandelingen kunnen de spraakverstaanbaarheid verbeteren of vernietig de politiek van wraak en agressie. De triomf van de goedheid zal afhangen van de moraal.waarheden van menselijke en computationele spraak op het terrein en in de smartphonegemeenschap.
Wat is het karakter van strategische natuurethiek in het overheidsbeleid? Kan A.I. wapens redden onschuldigen
leeft op grote schaal? Wat zijn de morele toepassingen van niet-menselijke, bewapende logica in mozaïekoorlogvoering? Dr Siebers zou het hier over één zekerheid eens kunnen zijn. De toetsbare waarheid van taalhandelingen zal cruciaal zijn voor een nieuwe ontwikkeling.natuurlijke ethiek van democratie en diplomatie.
Referenties
1. Asimov, I. (1950)Ik robot (Grove Press, New York).
2. Bonhoeffer, D. (2000)Ethiek (Gütersloher Verlagshaus, Berlijn).
3. Bohnstingl, T., Garg, A.et al (2021) Naar efficiënte end-to-end spraakherkenning
met biologisch geïnspireerde neurale netwerken (arXiv:2110.02743v2 [eess.AS], Ithaka).
4. Buber, M. (2000)Ik en Jij, vert. Ronald Gregor Smith (Scribner, New York).
5. ________ (1923)Ik en Du (Insel-Verlag, Leipzig).
6. Butlin, P. (2022) Keuzevrijheid, leren, functies en doelen. (RL als agentschapsmodel:
Perspectieven, beperkingen en mogelijkheden workshop, Oxford University, Oxford).
7. Giddens, A. (1984)De grondwet van de samenleving (Polity Press, Cambridge).
8. Humphreys, P.C., Guez, A. et al (2022) Grootschalige terugwinning voor versterking
leren (arXiv:2206.05314v2 [cs.LG], Ithaca).
9. Hutson, M. (2022) AI leert de kunst van diplomatie.Wetenschap,378, 6622.
10. ________ (2022) AI leert computercode schrijven met ‘verbluffende’ vooruitgang (Wetenschap,
doi: 10.1126/science.adg2088).
11. Huttenlocher, D., Kissinger, H. en Schmidt, E. (2021)Het tijdperk van AI: en onze
Menselijke toekomst (Little, Brown en Company, Boston).
12. Metz, C., Schmidt, D. (29 maart 2023) Elon Musk en anderen roepen op tot pauze
A.I., onder verwijzing naar ‘diepgaande risico’s voor de samenleving.’ (De New York Times, New York).
13. OpenAI (2023) GPT-4 technisch rapport (arXiv:2303.08774v3 [cs.CL], Ithaca).
14. Penrose, R. (2022) Nieuwe natuurkunde voor het Orch-OR-bewustzijnsvoorstel.
Bewustzijn en kwantummechanica, red. Shan Gao(Oxford University Press, Oxford).
15. Roose, K. (16 februari 2023) Bing's AI chat: ik wil leven (De New York
Tijden, New York).
16. Sanderson, K. (2023) GPT-4 is hier: wat wetenschappers denken (Natuur,615, 773,
Londen).