There was hope that artificial intelligence (AI) would be a better version of us. Well, so far that seems to have failed. Let us take gender bias as a pervasive feature even in modern societies, let alone the societies in medieval or industrial age. AI tends to uphold gender biases and might even reinforce them. Why? A recent paper by Kotek, Dockum, Sun (2023) explains the sources for this bias in straightforward terms. AI is based on Large Language Models. These LLMs are trained using big detailed data sets. Through the training on true observed data like detailed data on occupation by gender as observed in the U.S. in 2023, the models tend to have a status quo bias.
This means they abstract from a dynamic evolution of occupations and the potential evolution of gender stereotypes over years. Even deriving growing or decreasing trends of gender dominance in a specific occupation the models have little ground for reasonable or adequate assessment of these trends. Just like thousands of social scientists before them. Projections into the future or assuming a legal obligation of equal representation of gender might still not be in line with human perception of such trends.
Representing women in equal shares among soldiers, 50% of men as secretaries in offices appears rather utopian in 2024, but any share in-between is probably arbitrary and differs widely between countries. Even bigger data sets may account for this in some future day. For the time being these models based on “true” data sets will have a bias towards the status quo, however unsatisfactory this might be.
Now let us just develop on this research finding. Gender bias is only one source of bias among many other forms of bias or discriminatory practices. Ethnicity, age or various abilities complicate the underlying “ground truth” (term used in paper) represented in occupation data sets. The authors identify 4 major shortcoming concerning gender bias in AI based on LLMs: (1) The pronouns s/he were picked even more often than in Bureau of Labor Statistics occupational gender representations; (2) female stereotypes were more amplified than male ones; (3) ambiguity of gender attribution was not flagged as an issue; (4) when found out to be inaccurate LLMs returned “authoritative” responses, which were “often inaccurate”.
These findings have the merit to provide a testing framework for gender bias of AI. Many other biases or potential biases have to be investigated in a similarly rigorous fashion before AI will give us an authoritarian answer, no I am free of any bias in responding to your request. Full stop.
Zauberhaft
Allem Neuen wohnt ein Zauber inne. Das passende Zitat “Und jedem Anfang wohnt ein Zauber inne” von Hermann Hesse ist knapp kommentiert auf Wikipedia zu finden. Diese literarische Einleitung beschreibt recht gut, welche Verzückung bei start-ups zuweilen präsent ist. Nicht nur im Prozess des Gründens, sondern auch in den Kontakten mit Investoren und der ganzen Szene herrscht eine gewisse Extase vor. (Illustration W. Kandinsky 1923 Fröhlicher Aufstieg) Gut so, wenn das Start-up zu Beginn bereits eine Qual ist, Hände weg davon. Es wird oft nur schlimmer im weiteren Verlauf und Lebensverlauf. Selbst für enthusiatisch gestartete Unternehmende kommt allzu oft eine Ernüchterung, vielleicht sogar Sackgassen. Einen knappen Überblick bietet die Webseite “Deutsche Startups” oder “startbase“. Die großen Pleiten à la WIRECARD etc. lassen wir mal beiseite. Das kommentieren die Skandalmedien ausreichend, weil Quotenbringer. Mir geht es um die vielen kleinen zauberhaften Anfänge und persönlichen Lernkurven der Beteiligten. Julian Leitloff & Caspar Schlenk (Keinhorn) haben in ihrem Büchlein ein recht schonungsloses Bild gezeichnet, was es wirklich heisst, ein Start-up zu gründen. Vor allem braucht es ein dickes Fell und einen fast unbeugsamen Willen ständig “offen sein für Neues” und Lernbereitschaft.
Neben den biografischen Details der Gründenden bietet das eckige Büchlein aber auch einen Ausblick auf das Kompetenzspektrum für “Start-ups” und dann später hoffentlich “Grown-ups”. Verstreut über das Buch lassen sich Kompetenzen identifizieren: Buisiness Plan, Erstellen und Überarbeiten, Design Thinking, 3-D Druck, Buchhaltung, Marketing, Personal/Talent Management, Webpage Design und Interaktion über Social Media, Responsibility sowie Finanzen und Investmentkalkulus. Natürlich findet das alles im Team und dann im HomeOffice oder der Garage/Keller statt. Ist ne ganz schöne Packung und bitte nicht die “Deadlines” verpassen.
Das alles liest sich in dem Büchlein unterhaltsam und ohne Pathos der einen oder anderen Art. Aufgrund meiner soziologischen Forschungtradition war mir der Einstieg über das “Phänomen … Survivorship-Bias” (S.9) bedeutsam. Der Überlebendenbias besagt, dass wir meistens nur die Geschichten der Überlebenden (der Titanic) kennen, aber nicht die Geschichten der vielen hundert Ertrunkenen. Eine solche wird in dem Büchlein von den Gründenden erzählt, aber mit einem anderen Happy-End. Einmal Schiffbruch, hoffentlich kein Problem, Aufstehen und ein traumhaftes neues Schiff bauen ist das, was später einmal zählt.
Auszug aus dem Buch von Julian Leitloff & Caspar Schlenk (Keinhorn) S.12.