Slechts negen gigantische technologiebedrijven in de VS en China staan achter de overgrote meerderheid van de vorderingen op het gebied van kunstmatige intelligentie wereldwijd. In haar nieuwe boek The Big Nine: hoe de technische titanen en hun denkmachines de mensheid konden vervormen (PublicAffairs, 5 maart), ziet Amy Webb drie mogelijke toekomsten, variërend van optimistisch tot apocalyptisch, die kunnen voortvloeien uit de acties die we ondernemen - of niet ondernemen - om de ontwikkeling van A.I. en vorm te geven aan de wereldwijde impact ervan. In dit fragment stelt ze een reeks moeilijke ethische vragen die de mensen die A.I. systemen zouden moeten gebruiken om hun werk te sturen.
De regels - het algoritme - waarmee elke cultuur, samenleving en natie leeft en ooit heeft geleefd, zijn altijd door slechts een paar mensen gemaakt. Democratie, communisme, socialisme, religie, veganisme, nativisme, kolonialisme - dit zijn constructies die we door de geschiedenis heen hebben ontwikkeld om onze beslissingen te sturen. Zelfs in de beste gevallen zijn ze niet toekomstbestendig. Technologische, sociale en economische krachten grijpen altijd in en zorgen ervoor dat we ons aanpassen.
De Tien Geboden vormen een algoritme dat bedoeld is om een betere samenleving te creëren voor mensen die meer dan 5000 jaar geleden leefden. Een van de geboden is om een volledige rustdag per week te nemen en die dag helemaal niet te werken. In de moderne tijd werken de meeste mensen niet exact dezelfde dagen of uren van week tot week, dus het zou onmogelijk zijn om de regel niet te overtreden. Als gevolg hiervan zijn mensen die de Tien Geboden als leidraad volgen flexibel in hun interpretatie, gezien de realiteit van langere werkdagen, voetbaltraining en e-mail. Aanpassen is prima - het werkt heel goed voor ons en voor onze samenlevingen, waardoor we op het goede spoor blijven. Door het eens te worden over een basisreeks richtlijnen, kunnen we voor onszelf optimaliseren.
hoe oud is lelie parelzwart
Er zou geen manier zijn om een reeks geboden voor A.I. We konden niet alle regels uitschrijven om ze correct te optimaliseren voor de mensheid, en dat komt omdat denkmachines weliswaar snel en krachtig zijn, maar flexibiliteit missen. Er is geen gemakkelijke manier om uitzonderingen te simuleren, of om van tevoren te proberen elke afzonderlijke gebeurtenis te overdenken. Welke regels er ook worden geschreven, er zal in de toekomst altijd een omstandigheid zijn waarin sommige mensen de regels anders willen interpreteren, of ze volledig willen negeren, of wijzigingen willen aanbrengen om een onvoorziene omstandigheid te beheersen.
Als we weten dat we onmogelijk een reeks strikte geboden kunnen schrijven om te volgen, moeten we in plaats daarvan onze aandacht richten op de mensen die de systemen bouwen? Deze mensen - de stammen van AI - zouden zichzelf ongemakkelijke vragen moeten stellen, te beginnen met:
hoe oud is maria conchita alonso
- Wat is onze motivatie voor AI? Is het in lijn met de beste langetermijnbelangen van de mensheid?
- Wat zijn onze eigen vooroordelen? Welke ideeën, ervaringen en waarden hebben we niet in onze stam opgenomen? Wie hebben we over het hoofd gezien?
- Hebben we mensen opgenomen die niet bij ons passen om de toekomst van A.I. beter - of hebben we diversiteit gewoon in ons team opgenomen om aan bepaalde quota te voldoen?
- Hoe kunnen we ervoor zorgen dat ons gedrag inclusief is?
- Hoe zijn de technologische, economische en sociale implicaties van A.I. begrepen door degenen die betrokken zijn bij de totstandkoming ervan?
- Welke fundamentele rechten moeten we hebben om de datasets, algoritmen en processen die worden gebruikt om namens ons beslissingen te nemen, te ondervragen?
- Wie mag de waarde van het menselijk leven bepalen? Waartegen wordt die waarde gewogen?
- Wanneer en waarom vinden de leden van de A.I.-stammen dat het hun verantwoordelijkheid is om de sociale implicaties van A.I. aan te pakken?
- Heeft de leiding van onze organisatie en onze A.I. stammen weerspiegelen veel verschillende soorten mensen?
- Welke rol spelen degenen die A.I. spelen bij het aanpakken van de sociale implicaties van AI?
- Moeten we A.I. menselijk denken, of is het beter voor ons om het als iets anders te categoriseren?
- Is het oké om A.I. die menselijke emoties herkent en erop reageert?
- Is het oké om A.I. systemen die menselijke emoties kunnen nabootsen, vooral als het in realtime van ons leert?
- Wat is het acceptabele punt waarop we allemaal in orde zijn met A.I. evolueren zonder mensen direct in de lus?
- Onder welke omstandigheden kan een A.I. gemeenschappelijke menselijke emoties simuleren en ervaren? Hoe zit het met pijn, verlies en eenzaamheid? Veroorzaken we dat lijden oké?
- Ontwikkelen we A.I. om een dieper begrip van onszelf te zoeken? Kunnen we A.I. om de mensheid te helpen een meer onderzocht leven te leiden?
Er zijn negen grote technologiebedrijven - zes Amerikaanse en drie Chinese - die voor het overgrote deel verantwoordelijk zijn voor de toekomst van kunstmatige intelligentie. In de VS zijn dat Google, Microsoft, Amazon, Facebook, IBM en Apple ('G-MAFIA'). In China is het de BAT: Baidu, Alibaba en Tencent.
De G-MAFIA is begonnen met het aanpakken van het probleem van leidende principes via verschillende onderzoeks- en studiegroepen. Binnen Microsoft is een team genaamd FATE--for Fairness, Accountability, Transparency, and Ethics in A.I. In de nasleep van het Cambridge Analytica-schandaal lanceerde Facebook een ethisch team dat software ontwikkelde om ervoor te zorgen dat zijn A.I. systemen vermeden vooroordelen. (Facebook ging met name niet zo ver om een ethische raad op te richten die gericht was op A.I.) DeepMind creëerde een team voor ethiek en samenleving. IBM publiceert regelmatig over ethiek en A.I. In de nasleep van een schandaal in Baidu – de zoekmachine gaf prioriteit aan misleidende medische claims van een door militairen beheerd ziekenhuis, waar een behandeling resulteerde in de dood van een 21-jarige student – gaf Baidu-topman Robin Li toe dat medewerkers compromissen gesloten omwille van Baidu's winstgroei en beloofde zich in de toekomst te concentreren op ethiek.
rebecca king-crews ouders
The Big Nine produceert ethiekstudies en whitepapers, roept experts bijeen om ethiek te bespreken en organiseert panels over ethiek - maar die inspanning is niet voldoende verweven met de dagelijkse activiteiten van de verschillende teams die aan A.I.
De A.I. van de Big Nine systemen hebben steeds meer toegang tot onze real-world data om producten te bouwen die commerciële waarde hebben. De ontwikkelingscycli versnellen om gelijke tred te houden met de verwachtingen van beleggers. We zijn bereid geweest - hoewel onwetend - deelnemers aan een toekomst die haastig wordt gecreëerd en zonder eerst al die vragen te beantwoorden. Als A.I. systemen gaan vooruit en meer van het dagelijks leven wordt geautomatiseerd, hoe minder controle we daadwerkelijk hebben over de beslissingen die over en voor ons worden genomen.
Amy Webb zal verschijnen op de Inc. Founders House in Austin op 11 maart.
