Algemeen Jacques Ellul Günther Anders Lewis Mumford Herbert Marcuse Andrew Feenberg Wiebe Bijker Algemeen Luddieten Wapentuig als voorbeeld Transport Radio en televisie Internet Artificiële intelligentie Algemeen Hypermedia en hypertext Informatieovervloed Privacy Spionage, inlichtingendiensten Cyberoorlog Hackers Algemeen Het schrift Boeken en tijdschriftenZoals altijd bij dit soort bundels zijn de bijdragen van wisselend belang en varieert de kwaliteit.
Mijn commentaar bij de verschillende artikelen staat na elk artikel.
James H. MOOR / Terrell Ward BYNUM (Ed.)Dit boek omvat een reeks artikelen op het snijvlak van filosofie en 'computing': over de grondslagen ervan, over de sociale en ethische gevolgen ervan, over 'minds and machines', over hoe filosofische ideeën soms inspirerend blijken voor mensen in de computerwetenschap, en zo verder. Dit is het vervolg op een boek van deze auteurs uit 1998 met de titel The digital phoenix - How computers are changing philosophy..
De artikelen zijn gegroepeerd rondom vijf thema's: 'minds and computers' (rondom AI); 'agency and computers' (over robots met name); 'reality and computers' (filosofie van informatie); 'communication and computers' en 'ethics and computers'.
Over hoe 'mind' / 'brain' de wereld representeren. Een artifiact moet door AI en neurowetenschap gebouwd worden om na te gaan hoe dit werkt. Inspiratiebron: 'Artificial Life' (de toepassing van evolutionaire biologische oplossingen op computerproblemen en computeroplossingen op biologische problemen).
Artifacten die hier bestudeerd worden: Animats (synthetische dieren, als computersimulatie of robot). Die laten zien dat het nog maar de vraag is of intelligent gedrag mentale representatie van de wereld en computatie vereist. Animats zijn dan ook 'reactive agents'. Kritiek: dat geldt alleen voor het simpelste niveau. Bij hogere dieren is wel representatie nodig. Andere artifacten die hier aan de orde komen: Framsticks (computersimulaties van wezens die kunnen bewegen op land en in het water).
[Nogal abstract artikel waarvan je de waarde mag relativeren. Moeilijke woorden maken zaken niet zinvoller. Maar vooral: de beweging is weer de verkeerde kant uit. We beginnen met computersimulaties en zo en menen dan iets te kunnen zeggen over mensen? Ik denk niet dat onze inzichten in mensen kunnen groeien door met animats en framsticks bezig te zijn. Sorry, hoor.]
"Folk psychology, the common-sense view that human behavior is guided by beliefs, desires, and other mental states, is an enigma. Despite its humble origins, this age-old conception of behavior undergirds much of the theorizing of the cognoscenti in such fields as psychology, sociology, anthropology, economics, and philosophy. But what if folk psychology turned out to be a fundamentally flawed empirical theory destined to be displaced by a neurophysiological theory? Mental enitities would join phlogiston, caloric, and other assorted debris on the trash heap of discarded posits, taking along myriad theories that presuppose the reality of the mental. The social sciences would undergo drastic revisions, and philosophy as we know it might fade away."(26)
Paul Churchland staat op dat punt tegenover Jerry Fodor. Barker kijkt naar ontwikkelingspsychologen - die veel bewijs aanvoeren voor de bij kinderen aangeboren vaardigheid gedrag mentalistisch te interpreteren. Hij neemt stelling in ergens tussen Churchland en Fodor: 'mind reading' heeft niet zo veel met theoretische kennis te maken; we moeten misschien denken in termen van een aangeboren Rational Agency Mechanism (RAM), of eerder nog in een aangeboren Simulatie Theorie.
[Er zit al zo veel vaagheid in het bovenstaande! Het gaat er om of je je eigen geest kent en die van anderen meent te kennen. Dat lijkt bij mensen aangeboren te zijn: we zijn 'mind readers' van nature. Aldus Barker en de ontwikkelingspsychologen die hij opvoert. Maar ik lees hier niets over de rol van ouders die kinderen al communicerend opnemen in een dergelijke context. Hoezo dus 'aangeboren'?]
[En zoiets als dat RAM, grapje zeker, en typisch dat er over een 'mechanisme' wordt gesproken. Dat navoltrekken van gevoelens (simulatietheorie) en zo zit dan in ieder geval nog dichter bij de praktijk van alledag. Dit is nu zo'n zinloze theoretische discussie, simpelweg vanwege de reductie die er plaats vindt: de rol van opvoeders die voor het gemak maar buiten beschouwing gelaten wordt.]
"That the computational turn provides new methods for research within the philosophy of mind has well been recognized. That these new methods and the knowledge they produce may demand new approaches to teaching the philosophy of mind has been less well recognized."(45)
Filosofie heeft zich ontwikkeld van conceptuele analyse (bv. Gilbert Ryle) naar grondslagenonderzoek bij empirische wetenschappen met simulatiemodellen en -methoden (bv. Aaron Sloman; Dennett). Er heeft dus een verbreding plaatsgevonden en er wordt meer interdisciplinair samengewerkt (met cognitieve wetenschappen en AI). Het onderwijs zou daar rekening mee moeten houden door andere didactische methoden te gebruiken die ook simulatiemethoden aanleren.
'Fenomenologie' is een methode voor het analyseren van het bewustzijn (Husserl), maar kan losser ook de betekenis hebben van 'beschrijvingen van menselijke ervaringen in de eerste persoon' (tegenover wetenschappelijke beschrijvingen met een heel andere taal). Hier gaat het vooral over de eerste betekenis. Beavers onderzoekt de relatie tussen constitutie van de wereld als idee in die fenomenologie en de microwerelden in de AI.
"The purpose of a microworld in AI is to build a closed domain of virtual objects, properties, and relations small enough to be sufficiently mapped by a computer. (...) Both Dreyfus and Floridi raise the objection that because computers, or computer programs, are locked in microworlds and human beings are not, AI research cannot approximate human intelligence, which is open ended and able to deal with a broad range of contingencies."(67)
Beavers zegt dat daarmee de filosofie van Kant en Husserl en de consitutietheorieën er in onmogelijk worden.
[Hij noemt hen 'microworld philosophers', heel vreemd. Volgens mij heeft hij de transcendentale constitutie van Kant en en zeker van Husserl niet zo begrepen dan. Daar is weinig geslotens aan.]
"If I am correct in this reading of the phenomenological tradition, even before Husserl, then it is premature to conclude that artificial intelligence cannot approach genuine human intelligence, even if machines are trapped in microworlds."(69)
[Nee, hij begrijpt de fenomenologische traditie echt niet. De vergelijking gaat met microwerelden gaat mank. Dreyfus en Floridi hebben het veel beter begrepen en hun positie is juist niet gericht tegen de fenomenologie. Beaver zit ook veel te veel in de hoek van Husserl's Ideen. Husserl's latere werk is veel interessanter in dit verband.]
Aanpassingsvermogen is iets wat levende organismen hebben: ze passen zich autonoom en zelfsturend aan aan de meest complexe situaties. Robots zouden dat ook nodig hebben wanneer ze ingezet worden in onvoorspelbare open omgevingen en we kunnen daartoe misschien leren van die levende organismen. Hier wordt daartoe gebruik gemaakt van het idee 'emergence', gedrag van robots dat voortkomt uit de interactie tussen robot en omgeving.
"It is difficult, if not impossible, to specify a robotic task for execution in an unpredictable environment. In nature, biological organisms seem to be not task specified but rather behavior specified. The difference is that task-specified robots are programmed with both 'what' to do and 'how' to do it, whereas biological organisms are provided with behaviors to achieve the 'what' but not the details of the 'how' - these are resolved in the moment that the organism interacts with its environment."(83)
Stuart werkt met Dobbyn aan een herinterpretatie van Kant waarin het gaat over
"minimum conditions for the possibility of human conscious experience ... (...) With this in mind, we have argued that active participation in the world, or agency, is possible only in a system that instantiates such a perceptual and interpretative framework dictating how we perceive, order, and unify our experience."(93)
Hier gaat het verder over de context waarbinnen dat gebeurt. Definities zijn belangrijk, want het gaat over zelf, zelf-bewustzijn, gesitueerdheid, belichaming ('embeddedness').
"I use the term self-identity to emphasize an already existing distinction we see between the sense we have of our body and the sense we have of our self. (...) My claim, then, is that proprioception is a necessary, though not a sufficient, condition for a system's satisfying a minimal claim to self-identity - that is, for its being self-aware."(93-94)
Dat geldt dus zowel voor levende wezens als voor kunstmatige systemen. Verder is 'self-awareness' niet hetzelfde als 'self-consciousness' en wordt 'ervaring' hier breed opgevat als 'self-awareness' (wat kan gelden voor mensen, dieren en kunstmatige systemen) en niet beperkt tot 'self-conscious experience' (wat reflectie veronderstelt, iets wat alleen geldt voor de menselijke ervaring).
"In this essay I interpret experience in the broad sense as self-awareness, and I endeavor to produce a set of arguments to show that the logically necessary conditions for an agent's being self-aware - satisfying a minimal claim to self-identity - can be met by specifying the necessary criteria for its being embedded."(95)
[Het wordt hier niet duidelijk waarom en hoe 'awareness' en 'consciousness' verschillend zijn. Ook blijft onduidelijk waarom de keuze gemaakt wordt voor de brede benadering van 'ervaring'.]
Een 'agent' ['handelend wezen'? hoe vertaal je zoiets?] heeft een zelf, een gevoel van zelf, zelfbesef. Het gaat dan om menselijke, morele, intelligente agent.
"An agent acts autonomously rather than simply moves, and whereas the movement of all living organisms can be explained in terms of simple, deterministic motion, the actions of human agents are generally thought not to be determined by a preset program or set of antecedent contidions. The actions of an agent are puposive within a dynamic environment ..."(95)
In de AI en de cognitieve wetenschappen gaat het ook over 'agents', 'gesitueerdheid' en 'belichaming', maar daar zijn de definities niet zo 'sophisticated' als die van net. Wanneer is in AI nu sprake van een agent die 'self-aware' is?
Een agent moet in ieder geval te onderscheiden zijn van zijn omgeving, maar moet er ook in gesitueerd zijn zodanig dat agent en omgeving op elkaar reageren. Stuart wijst er op dat dat tot nu toe alleen gebeurt in sterk gereduceerde omgevingen waarin de mogelijke interacties vastliggen. En daarbij is niet eens sprake van interactie op basis van posities in ruimte en tijd zoals in de echte wereld. Er is geen 'embodiedness'.
Inmiddels wordt er in de cognitieve wetenschappen gewerkt aan agents die wel 'physically embodied' zijn: de zogenoemde animats. Maar wat wordt hier met 'body' bedoeld? Een 'autopilot' in een vliegtuig wordt immers ook al 'embodied' genoemd.
"Why would no one want to argue that such situated and embodied animats are not candidates for even the most minimal self-identity? Because:
--they are, in the main, reactive only: that is to say, their behavior will only be in response to detected features of, or events in, their environment;
--the goals of such systems are unitary, or else very restricted and stereotyped: an animat can be programmed to follow a wall or to retrieve and dispose of objects on the floor of a crowded office, but a richer range of possible interactions is generally impossible;
--the animats receive information from their situation across a simplified interface: although in recent work in robotics an animat may receive information from more than one type of sensor, the range of possible input data to the system is generally quite sparse;
--they have insufficient representational capacity."(98)
Wat dat laatste betreft zeggern veel makers van animats en andere robots dat hun machines 'nonrepresentational' zijn. Stuart laat zien dat dat nog maar de vraag is.
"It has also been argued that nonrepresentationalists sidestep crucial questions about cognition: by concentrating on behavior and the control issues that arise from it, at the expense of representation and concepts, whole areas of mental life are ruled out. If an agent is going to be a candidate for self-identity, it will have to be able to synthesize and order its representations of the world from its own point of view."(99)
De volgende zes voorwaarden zijn samen noodzakelijke n voldoende om van 'embeddedness' te kunnen spreken:
"1. the animat must be situated and embodied;
2. the animat must have multiple goals;
3. the environment in which the animat is situated must be sufficiently complex and challenging for the animat to be capable of complex responses to it; (...)
4. the animat must sense its world through a rich interface (...);
5. the embedded animat must contain inner representations of its world for any but the most primitive sort of cognition to be possible; such representation need not be symbolic;(...)
6. the anmimat must have a rich repertoire of possible interactions with its environment, coontinuously manipulating its world in ways that bring about significant changes."(100)
[Afgezien van de stimulerende werking die uitgaat van het bouwen en simpel programmeren van robotjes en van dat je daarmee leert wat logische stappen zijn en zo, zie ik helemaal niet wat een en ander aan filosofische gedachten oplevert. Het artikel bevat er in ieder geval geen.]
Floridi is de uitvinder van de term 'filosofie van de informatie' (1996). Hier verdedigt hij de uitdrukking (afgekort PI = Philosophy of Information) tegenover allerlei andere die iets zeggen over de relatie tussen filosofie en ICT.
"Turing began publishing his seminal papers in the 1930s. During the following fifty years, cybernetics, information theory, AI, system theory, computer science, complexity theory, and ICT succeeded in attracting some significant, if sporadic, interest from the philosophical community, especially in terms of philosophy of AI. They thus prepared the ground for the emergence of an independent field of investigation and a new computational and information-theoretic approach in philosophy. Until the 1980s, however, they failed to give rise to a mature, innovative, and influential program of research, let alone a revolutionary change of the magnitude and importance envisaged by researchers like Sloman in the 1970s."(118-119)
PI kreeg niet meteen een kans in de conservatieve wereld van de academische filosofie. Pas eind 80-er jaren brak PI door als een discipline in zichzelf, met eigen onderwerpen, methoden en theoriën.
[Ik vind die discussie verder niet zo interessant. Filosofen hebben altijd vragen gesteld bij de gang van zaken in de wereld. Dus ook bij ICS en ICT, bij de netwerksamenleving, en zo verder. En natuurlijk is de academische filosofie ook niet meer dan een verzameling gevestigde belangen waarbinnen het moeilijk vernieuwen is. Van de andere kant is het willen doorzetten van een nieuwe inhoudelijke discipline als PI ook niet vrij van eigenbelang bij de voorstanders ervan (posities aan de universiteiten, inkomen, kunnen doen wat je leuk vindt). Ik vind dat goed te merken aan het pleidooi dat Floridi houdt. Hij schrijft over de filosofie van de informatie, maar hij had net zo goed gewoon kunnen filosoferen over informatie 'if you catch my drift'.]
Gaat in eerste instantie over de ICT-middelen die filosofen zijn gaan gebruiken. Ze zijn meestal - zo constateert Dipert al meteen met enige teleurstelling - niet geschikt voor dialoog en discussie (zoals in e-mail, emiallijsten, nieuwsgroepen, chat).
Filosofie (m.n. logica) heeft een grote rol gespeeld in de ontwikkeling van het denken over computers. Andersom hebben de digitalisering en computerisering het denken van filosofen beïnvloed. Bijvoorbeeld op het vlak van de precisie van concepten en beslissingen. Maar zeker ook op het vlak van theorieën over de geest (de 'mind as machine'-opvattingen bijvoorbeeld, de geest als computer, als rekenmachine dus).
Gekeken wordt verder hoe dat de metafysica beïnvloedt, zoals in het werk van Eric Steinhart of van Dipert zelf.
[Volgt een uitwerking ervan. De 'mind' is fundamenteel wiskundig en meer van die onzin. Metafysici leren het nooit: ze blijven graag hangen in oncontroleerbare abstracte vaagheid. Volkomen nutteloos.]
Over de formalisering van oorzaak-gevolg-relaties, waarschijnlijkheidsberekeningen, statistische berekeningen, de inzet van computerprogramma's daarvoor, het gebruik van dat soort berekeningen in AI en robotica, en dergelijke.
[Voor een groot deel bijzonder technisch en formeel. Uiteraard speelt een en ander een rol in de pogingen de interacties tussen computers (robots) en omgeving te beheersen en te controleren. Maar ik vraag me af of de ziljard factoren en variaties in de interactie tussen mens en omgeving ooit in dat soort berekeningen gevangen kan worden. Bovendien gaat het er weer van uit dat de menselijke geest de hele tijd aan het rekenen is. Patroonherkenning, is dat bijvoorbeeld rekenen? Het inschatten van een bijzonder complexe en dynamische situatie, is dat rekenen? Ik vraag het me af.]
Modelleren gebeurt al lang in filosofie, bijvoorbeeld voor de constructie van regels voor valide redeneringen. Dat modelleren kan nu met computers gedaan worden ('computational modeling' / 'conceptual modeling'). Het kan bijvoorbeeld toegepast worden op veel gedachtenexperimenten zoals die in de filosofie gebruikt worden (zoals het 'Prisoner's Dilemma' en de 'Liar's Paradox').
[De filosofie bevat nogal wat van dat soort wereldvreemde gedachtenexperimenten. Wat winnen we nu wanneer we daar 'computational modeling' op los laten? Ze blijven wereldvreemd, worden alleen maar met andere middelen aangepakt. Akeliger vind ik dit soort denken waar het gaat over de toepassing ervan op 'meaning as use' - wat kunnen we toch leren van modellen die alles willen reduceren tot uiterlijk gedrag en formaliseerbare relaties?]
[We moeten oppassen voor de verleidingen van logica en wiskunde. Modelleren is altijd reduceren. Reduceren is behoefte aan controleren in de betekenis van 'greep krijgen op', van 'beheren en beheersen'. Die neiging tot beheersing is al gevaarlijk gebleken ten aanzien van de natuur - steeds weer blijkt dat belangrijke factoren over het hoofd gezien worden of onderschat worden. Dat geldt a fortiori voor het menselijk lichaam - we zouden bijzonder gealarmeerd moeten zijn over gentechnologie, over allerlei fysieke en chemische middelen om dat lichaam te sturen en weer 'gezond' te laten functioneren. Dat geldt het allermeest voor de menselijke geest ingebed in lichaam, natuur en samenleving. Er zal nooit een robot zijn die dat kan benaderen. Het is alarmerend dat er zo veel mensen zijn die denken dat dat wél mogelijk is.]
[Te vinden op plato.stanford.edu en een aantal 'mirror sites', waaronder die van de Universiteit van Amsterdam. De SEP is in principe gratis, je betaalt alleen voor extra services zoals het genereren van PDF's van artikelen.]
In de lijn van hf.12. Met een verwijzing naar Grim en het berekenen van 'moral strategies' in het 'Prisoner's Dilemma':
"The computer thus provides a controlled experimental environment in which philosophers can model and critically evaluate specific ethical and political claims."(219)
[Let op de formulering. Moet ik meer zeggen? Dit soort omstandigheden vormen een vergaande reductie van de werkelijkheid. Dus wat hebben daar dan aan?]
Ess wil iets dergelijks, een laboratorium waarin communicatief gedrag [nota bene] kan worden geobserveerd en geanalyseerd. Hij wil een filosofie van de communicatie, op het grensvlak zitten van communicatie theorie en filosofie.
[Is een filosoof een wetenschappelijk onderzoeker? Dat vind ik toch niet.]
"CMC technologies have brought about extraordinary new possibilities for engagement between cultures and peoples. (...) CMC environments can help us become more explicit and critical about the underlying assumptions of culturally diverse worldviews and communication preferences that otherwise remain tacit and unquestioned."(220)
Zo verzamelt hij data over de implementatie van ICT in landen als Japan, het Midden-Oosten, enz. om op die manier conclusies te kunnen trekken op het terrein van techniekfilosofie. Noch het idee dat techniek waardenvrij of neutraal is (instrumentalisme) noch technologisch determinisme blijken te kloppen met de empirische gegevens.
"These examples demonstrate that CMC technologies both embed specific cultural values and communicative preferences (contra technological instrumentalism), and (contra technological determinism) that these technologies do not simply reshape their users to conform with those embedded values and preferences."(224)
[Ik vind dat een open deur. Niets is waardenvrij of waardenneutraal, techniek dus ook niet. En technische middelen dwingen van zichzelf uit nooit tot het gebruik ervan, dat doen mensen met macht en bepaalde opvattingen. Net als dat ICT op zichzelf niet leidt tot een democratischer samenleving, want waarom zou een technisch middel dat met zich mee brengen? Je kunt dat principieel en filosofisch uitwerken zonder dat je naar allerlei empirische studies grijpt.]
Een ander onderwerp waarin Ess zich wil verdiepen zijn culturele opvattingen over zelf, identiteit, kennis. Uiteraard bestaan daar vandaag de dag postmodernistische opvattingen over.
"This postmodern thread of discussion, however, is countered by more recent turns in the literature of CMC and related fields that take, especially, phenomenological and hermeneutical approaches to argue for the self as tied closely to embodiment."(228)
[Maar ook dat is dus filosofisch gemakkelijk te benaderen. Het Westen, met name de VS, is lichaamsvijandig en individualistisch, dat blijkt uit zo veel zaken in hun uitgangspunten en filosofische activiteiten. Maar natuurlijk is dat niet noodzakelijk of zelfs maar goed. Sterker nog: het kan op allerlei manieren aangevochten worden als bijzonder eenzijdig en misvormd. Ik heb niets tegen empirische studies, maar die moeten wetenschappers maar verrichten, zodat filosofen daar naar kunnen kijken.]
[Het is toch van de gekke dat iemand hier bezig is filosofen te vertellen dat ze naar de werkelijkheid moeten kijken voordat ze dingen roepen, en dan nog omdat we nu ICT hebben. Nee, echt, wat een geklets. Alsof er al niet decennia sprake is van samenwerking met wetenschappen waarvan grondslagen worden overdacht. Centrale Interfaculteit heette het instituut voor filosofie dan ook, vroeger, tijdens mijn studie.]
Veel computerexperts zijn goed in procedureel denken, het is een cognitieve stijl waarin een stap-voor-stap-benadering centraal staat. Maner meent dat die cognitieve stijl ook toegepast kan worden op (de reflectie in) het nemen van ethische beslissingen: je krijgt dan een procedurele ethiek. Een ethisch algoritme maken is niet zo eenvoudig. Maar een heuristiek ligt meer voor de hand en kan helpen in het bereiken van goede ethische beslissingen. Dit artikel bekijkt allerlei ethische codes op de voorgestelde procedures en komt met eigen ideeën hierover.
Over nanotechnologie en kwamtumcomputers en de ethische vragen die (onderzoek in) deze technieken oproepen.
[In het artikel lees je niets over gevaren die ontstaan door de commerciële controle - patenten -, geheimhouding, en uitbating bij deze technieken. Alsof wetenschap zich in een neutrale ruimte voltrekt. Wanneer de machtsverhoudingen niet beschreven worden, is ook niet duidelijk welke gevaren en thische prolemen er aan technieken zitten. Dit artikel is om die reden oppervlakkig.]
Sinds de 80-er jaren wordt er over allerlei ethische prolemen nagedacht rondom het gebruik van computers en de gevolgen ervan.
"In addition to the more traditional methods of moral inquiry into these issues, several attempts have been made to utilize computer programs and information systems to support moral reasoning and help us understand moral behavior. Should these attempts be succesful, we would be presented with an extraordinary full circle: computer technology would come to the aid of those grappling with the moral problem to which computer technology itself has given rise - computer-supported computer ethics."(280)
[Het idee dat computerprogramma's ons kunnen helpen morele problemen beter te begrijpen is belachelijk. Dat we ze gebruiken zoals we allerlei andere middelen gebruiken is voor de hand liggend, maar dat is heel wat anders.]
"In this essay we. first, provide a description and informal analysis of the commonalities in moral discourse concerning issues in the field of information and communications technology. Second, we present a logic model (DEAL) of this type of moral discourse that makes use of recent research in deontic, epistemic, and action logic. Third, we indicate - drawing upon recent research in computer implementations of modal logic - how information systems may be developed that implement the proposed formalization."(280-281)
[Lees en huiver. Voorbeelden worden volledig ontdaan van hun inhoud en geabstraheerd naar een logische syntaxis rondom verplichting, toestemming, verbod, de zogenoemde deontische logica, een tak van de modale logica. Dan wel naar een logische syntaxis rondom kennis en mening, de zogenoemde epistemische logica, ook een tak van de modale logica. Dan wel naar een logische syntaxis die 'logic of action' genoemd wordt. Of naar mengvormen ervan. De inhoud wordt volledig weggeformaliseerd, ongetwijfeld omdat computers die syntaxis dan kunnen berekenen. Het gaat dan wel nergens meer over natuurlijk.]
"Trying to express one's views in logical terms is worthwile in any case because it inevitably leads to more clarity than can otherwise be obtained. But trying to express one's views about computer ethics in terms of deontic, epistemic, and action logic is particularly attractive because the resulting theories are in principle implementable in computer software. As a result, one can partially relegate one's reasoning to the very machine about which one happens to be theorizing - the computer."(287)
[Zo voorspelbaar. Die jongens hebben echt geen enkel idee van de waarden en normen die ze er zelf op na houden. Waarom is iets wat je in logische termen uitdrukt 'helderder' dan wanneer het bijvoorbeeld in de vorm van een gedicht wordt uitgedrukt? Hoe weten we dat iets 'helderder' is? Het antwoord is vast circulair: wanneer we het in logische zinnen kunnen uitdrukken. Of bijvoorbeeld: wanneer een computer ermee overweg kan. En zo voort. Niet erg nuttig.]
[Uiteraard is een andere waarde het belang dat gehecht wordt aan een machine als de computer. Het is opvallend hoe gemakkelijk deze auteurs zich willen aanpassen aan de eisen die deze machine stelt. Liefhebbers van wiskunde en logica hebben natuurlijk iets met een machine die werkt op basis va logica. Dat mag. Maar het blijft noodzakelijk dat alles te problematiseren en daar is niets van te merken hier. Computers worden geïdealiseerd.]
[Ook typerend is dat je hier de formalisering ziet van complexe werkelijkheid naar modale logica. Je ziet een reductie. Maar je ziet niets over hoe je vanuit die reducties weer terugkomt bij die complexe werkelijkheid. Het zijn die reducties die AI zo ergerlijk pretentieus maken wanneer men daar zich niet beperkt tot conclusies over gereduceerde werelden en meent conclusies te kunnen trekken over niet-gereduceerde werelden. Het is een denkfout. Wanneer ik onderzoek doe naar het paargedrag van muizen in Noord-Oost Groningen kan ik niet zo maar conclusies trekken over mensen in Amsterdam.]