Alix Rübsaam
Als onderzoeker op het gebied van technologiefilosofie en culturele analyse onderzoekt Alix Rübsaam de maatschappelijke en culturele impact van diverse technologieën. Haar focus ligt op veranderende ideeën over menselijkheid en menselijke activiteit in technologische contexten zoals Artificial Intelligence, Robotics, Informatietechnologieën en digitale omgevingen, en op het verantwoord inzetten van opkomende technologieën.
Alix’ huidige onderzoek richt zich op twee grootschalige projecten. Het eerste hiervan is een diepgaande studie naar Responsible AI, algoritmische bias en uitsluiting. Dit project heeft als doel bewustzijn te creëren over de impact van geautomatiseerde decision making algorithms, om uit te leggen hoe beslissingen in het ontwerpproces kunnen leiden tot ongewenste uitkomsten, en om leiders in staat te stellen AI te bouwen die rechtvaardig, eerlijk en rechtmatig is. Het tweede project omvat een analyse van informatie-digitalisering, en de effecten die dat heeft op besluitvorming en op ethiek. Het doel van dit project is om besluitvormers opnieuw te positioneren ten opzichte van de manier waarop zij zich informeren, om computationele paradigma’s te onderzoeken en te bevragen, om een passende benadering te vormen bij de dilemma’s van de 21e eeuw.
Alix is momenteel de Vice President of Research, Expertise, and Knowledge bij Singularity Education Group. In deze rol houdt ze toezicht op de onderzoeksinspanningen, kennisbasis en de expert-gemeenschap van experts van Singularity. Voordat ze bij SEG kwam, studeerde Alix als PhD-kandidaat aan de Universiteit van Amsterdam en de Amsterdam School voor Cultural Analysis (ASCA). Hier onderzocht ze de samenwerking tussen menselijke en niet-menselijke (technologische) agenten op het snijvlak van mensen en computationele systemen. Ze heeft geschreven en spreekt over cyberpunk en sciencefiction literatuur, autonome wapensystemen, robotics, kunstmatige intelligentie en AI bias.
Human vs algorithm: Why the AI balance is key, with researcher Alix Rübsaam
De Tegenlicht Podcast: hoe gevaarlijk is AI nu echt?
Lezingen en workshops die Alix eerder gaf:
Keynote: AI, Onbedoelde Consequenties & De Kansen van Responsible Technology.
Als het gaat om het automatiseren van besluitvorming met AI, kan algoritmische bias onbedoeld gecodeerd worden in datagedreven technologieën. Toepassingen zijn er in overvloed: van werving tot optimalisatie van productie, van supply chain management tot recommendation algoritmes. Maar alle AI-toepassingen lopen het risico om blinde vlekken in hun modellen te versterken en mogelijk te vergroten. Zulke algoritmische bias betekent niet alleen dat deze AI’s oneerlijk of onrechtvaardig zijn, ze kunnen ook financiële resultaten beïnvloeden, als de blinde vlekken onbedoeld of onbekend zijn.
In deze lezing ontrafelt Alix de werking van het ontwerp en de besluitvorming van geautomatiseerde systemen, hoe mechanismen in AI te identificeren en te analyseren en hoe te pleiten voor en het bouwen van meer sociaal verantwoorde algoritmes. Daarnaast zullen we in deze sessie de beperkingen èn de mogelijkheden van het benutten van datagedreven technologieën uitdiepen, en bekijken wat de rol van leiderschap is in dit ontwikkelende vakgebied. We leren verschillende soorten algoritmische bias herkennen; identificeren kansen voor “Responsible AI”; en zien hoe we een geautomatiseerd proces kunnen beoordelen op het risico van onbedoelde gevolgen.
Workshop: Responsible AI
Deze praktische simulatieoefening doorloopt de stappen van het ontwerpen en trainen van een AI. Deelnemers leren hoe beslissingen in de ontwerpfase de werking en uitkomsten van de algoritmen beïnvloeden die tijdens de simulatie worden gebouwd. Ze leren hoe mechanismen te identificeren en te analyseren die leiden tot ongewenste en onbedoelde uitkomsten in AI, en hoe te pleiten voor en het bouwen van Responsible AI.
Tijdens de workshop zullen de deelnemers beslissingen nemen over de training en het ontwerpen van algoritmen in een simulatie van daadwerkelijke implementatie-omstandigheden van technologieën in verschillende industrieën. Het verkorten van de afstand tussen ontwerp, implementatie en uitkomsten vergroot het begrip van hoe onze culturele achtergrond en aannames geprogrammeerd worden in datagedreven technologieën.
Vervolgens leren de deelnemers om kansen te identificeren voor de implementatie van Responsible AI; om potentiële valkuilen voor algoritmische bias te herkennen; en om de risico’s voor onbedoelde uitkomsten te beoordelen. Tijdens de simulatie zullen ze ook vertrouwd raken met het ontwerp, de implementatie en het gebruik van geautomatiseerde decision making algoritmes en machine learning-systemen.
Keynote: AI or Die? De Mens in het Digitale Tijdperk
AI als een existentieel risico voor de mensheid: inmiddels een vaste prik in de krantenkoppen. Terwijl sommigen voorspellen dat de opkomst van kunstmatige intelligentie het “einde van de mensheid” zal betekenen, zien anderen geen toekomst zonder algoritmes en datagedreven systemen. Hoe kunnen we deze voorspellingen en waarschuwingen duiden?
Deze lezing ontrafelt de effecten van het denken over onze hersenen als een computer en wat de impact van dit denken is op hoe we een technologie als AI inzetten. Onze ‘computationele’ manier van denken heeft onze huidige zelfopvatting en onze cultuur gevormd. Software is veel gebruikt als metafoor om de manier waarop we denken te verklaren, of zelfs om de mensheid als geheel te uit te leggen. Als computers kunnen denken zoals wij, wat betekent het dan nog om mens te zijn? Deze lezing plaatst de waargenomen dreiging van AI en de hersenen-als-computer in een lange traditie en geschiedenis van ideeën die we hebben gebruikt om de mensheid te verklaren. Hieruit kunnen we leren hoe onze technologieën bijdragen aan hoe we over onszelf en onze toekomst denken, en onze begrip van Kunstmatige Intelligentie als een bedreiging uitdagen.
Alix Rübsaam | Being Human in the digital age | SingularityU Mexico Summit