They know AI — but you don’t know them, Part. 1

Photo licensed from Adobe Stock. 

Text: Essi Ryymin (ENG/FIN)

There are so many of them! Remarkable master minds working in AI! Still, society often puts up barriers that hold them back. Yet, we rely on their expertise: they shape, among the other things, the quality and reliability of artificial intelligence. In other words, without their work, AI systems would be much more biased, which could seriously harm both individuals and society.

In the next two posts, I'll briefly (meaning: you can have a look over your coffee break) introduce twelve AI gurus and pioneers who have changed the direction of history. I chose them simply because they sparked my personal interests. In this first post, I'll focus on six brilliant talents whose work has shaped the development of AI and how we understand machines capable of learning. In the next post, I will highlight six exceptionally gifted researchers who have created practical AI applications.

Note: The bold text above is intentional. 

Note 2: I don't normally do APA7 formulated reference lists for blog posts. I've made an exception this time for my auntie Karen, who basically demands it, also for her shopping lists. My uncle Ken, on the other hand, does not, and he has made that very clear. Mostly because he knows  that evidence-based information is just another opinion. Anyway, the full list of references for the curious minds is down below, after the Finnish version of the text.

1. Grace Hopper (1906–1992) 
Rear Admiral, U.S. Navy, Pioneer of Computer Programming

Grace Hopper created some of the first high-level programming languages and compilers, which helped software development grow. Her work made computers easier to use and set the stage for modern software engineering (Hopper, 1952; Sammet, 1969). Without these layers of abstraction, the complex software behind today’s AI would not exist. (This photo is absolutely stunning!🔥) 

Photo: Grace Hopper by Lynn Gilbert, CC BY-SA 4.0, Wikimedia Commons, https://commons.wikimedia.org/w/index.php?curid=57587522

2. Margaret Hamilton (1936– )
Director, Software Engineering Division, NASA (Apollo Program)

Margaret Hamilton led software development for the Apollo program and set important standards for software reliability. Her work made it possible for systems to handle faults and focus on the most important tasks during flight (Hamilton, 1976). These ideas are still important today, especially in high-risk AI applications where reliability and safety matter most. 

Photo: Margaret Hamilton standing next to a printout of the program code for the Apollo Guidance Computer that she and her MIT team produced for the Apollo Project. Restoration, created 1 January 1969. Uploaded 6 June 2017 via Wikimedia Commons. Public Domain. https://en.wikipedia.org/wiki/Margaret_Hamilton_(software_engineer) 

3. Barbara J. Grosz (1948– )
Higgins Professor of Natural Sciences, Harvard University

Barbara J. Grosz was one of the first AI researchers to create models for processing natural language and multi-agent systems. Her work helped build systems that can work with people and consider context and goals (Grosz & Sidner, 1986; Grosz et al., 2004). She also brought an ethical view to AI, focusing on its impact on society (Grosz et al., 2019). 

Photo: Barbara J. Grosz by Bengt Oberger (2015), CC BY-SA 4.0, Wikimedia Commons https://en.wikipedia.org/wiki/Barbara_J._Grosz 

4. Julia B. Hirschberg (1950– )
Percy K. and Vida L. W. Hudson Professor of Computer Science, Columbia University

Julia B. Hirschberg has been important in developing speech recognition and conversational systems. Her work on prosody and speech structure helped make interactions between people and machines feel more natural (Hirschberg, 2002; Hirschberg & Manning, 2015). She has also pointed out biases in speech technology, especially those linked to gender and accent, which can impact how well these systems work for different users.

See Julia B. Hirschberg’s portrait on Columbia Engineering’s website: https://www.engineering.columbia.edu/faculty-staff/directory/julia-b-hirschberg

5. Fei-Fei Li (1976– )
Professor of Computer Science, Stanford University, Co-Director, Stanford Human-Centered AI Institute

Fei-Fei Li played a major part in the deep learning breakthrough by creating ImageNet, a large image dataset that sped up neural network development, especially after 2012 (Deng et al., 2009; Krizhevsky et al., 2012). Her work helped build the foundation for AI systems now used in healthcare, transportation, and digital services (LeCun et al., 2015). Li has stressed how important data is: models learn from datasets and can reflect their biases, which sometimes leads to unfair results (Mehrabi et al., 2021; Buolamwini & Gebru, 2018). She has also promoted the idea of human-centered AI, where progress in technology goes hand in hand with responsibility and social impact (Li, 2018). 

Photo: Fei-Fei Li speaking at AI for GOOD Global Summit by ITU Pictures, CC BY 2.0, via Flickr: https://www.flickr.com/photos/itupictures/35011409612/

6. Timnit Gebru (1983– )
Founder, Distributed AI Research Institute (DAIR), Former Co-Lead, Ethical AI Team, Google

Timnit Gebru is a key figure in AI ethics. Her research shows that decisions about datasets and models can create serious biases and negative effects (Gebru et al., 2018). She has also looked at the risks of large language models, highlighting the need for transparency, accountability, and good data quality in AI development (Bender et al., 2021).

Photo: Timnit Gebru speaking at TechCrunch Disrupt SF 2018 by Kimberly White / TechCrunch, CC BY 2.0, via Flickr: https://www.flickr.com/photos/52522100@N07/30671211838

Let’s, finally, call a spade a spade, plainly enough to make the faint-hearted uneasy. Let’s see whether, based on these individual examples, we might sketch some kind of continuum of AI development, even though such an exercise, based on a small and random sample, is strictly a no-go in science.

The development of artificial intelligence has progressed from building computational capacity and software engineering foundations toward learning models based on neural networks. This progress has been driven in particular by the availability of large datasets, scalable computing, and deep learning. The current phase is especially marked by the rise of generative language models, multimodality (text, image, and audio), as well as research into AI ethics and critical reflection.

I ran the chapter above by the prompted AI and it lowkey roasted the description for being too simple and skipping over a bunch of other parallel trajectories. This is a good start.  

#AI #researchers #developers #engineers #inventors #AIhistory #AIdevelopmenttrajectories 

Note 3. I used Grammarly to proofread this text. Translators say it sounds robotic, but I'm sticking with it for now. That said, I’ve checked the contents personally, so any mistakes are human-hallusinated.

Edited for clarity 7.4. 2026  Revised: "...how we understand machines capable of learning" (Originally: "...how we understand learning machines"). Revised: "...a printout of the program code" (Originally: "...listings of the software"). Revised: "...models for processing natural language" (Originally: "...create models for language understanding").  Thanks to my brilliant software engineering colleague, who is becoming an AI guru herself!

Tiivistelmä suomeksi: 

He tuntevat tekoälyn, mutta me emme tunne heitä. Osa 1. 

Heitä on niin paljon! Hämmästyttäviä AI-neroja nimittäin. Vaikka yhteiskunta asettaa heidän työskentelylleen jatkuvasti hähmäisiä esteitä, sama taho tarvitsee heidän osaamistaan kipeästi: he vaikuttavat muun muassa tekoälyn laatuun ja luotettavuuteen. Toisin sanoen ilman heidän panostaan tekoälyn vinoutumilla olisi merkittäviä haittavaikutuksia ihmisille ja yhteiskunnalle. 

Esittelen kahdessa seuraavassa postauksessa kaksitoista AI-gurua ja pioneeria, jotka olen valinnut oman kiinnostukseni perusteella. Ensimmäisessä setissä tavataan kuusi johtajaa, jotka ovat vaikuttaneet laajasti tekoälyn kehityssuuntiin ja ymmärrykseemme koneälystä. Myöhemmin, jahka ehdin ja jaksan, julkaisen toisen tekstin, jossa syvennyn lahjakkaisiin talentteihin, jotka ovat kehittäneet tutkimukseen perustuvia konkreettisia tekoälysovelluksia. 

Huom. Ylläolevat boldaukset ovat tarkoituksellisia ja ehkä vähän provokatiivisia.  

Grace Hopper (1906–1992)
Grace Hopper kehitti varhaisia korkean tason ohjelmointikieliä ja kääntäjiä, mikä mahdollisti ohjelmistokehityksen skaalautumisen. Hänen työnsä teki tietokoneista laajemmin käytettäviä ja loi perustan modernille ohjelmistokehitykselle (Hopper, 1952; Sammet, 1969). Ilman näitä abstraktiotasoja nykyinen tekoälyn kehitys, joka perustuu monimutkaisiin ohjelmistojärjestelmiin, ei olisi mahdollista.

Margaret Hamilton (1936– )
Margaret Hamilton johti Apollo-ohjelman ohjelmistokehitystä ja loi keskeisiä periaatteita ohjelmistojen luotettavuudelle. Hänen työnsä mahdollisti virheenkestävät järjestelmät, jotka pystyivät priorisoimaan kriittiset toiminnot lennon aikana (Hamilton, 1976). Nämä periaatteet ovat tärkeitä myös nykyisessä tekoälyssä, jossa järjestelmien luotettavuus ja turvallisuus ovat ratkaisevia erityisesti korkean riskin sovelluksissa.

Barbara J. Grosz (1948– )
Barbara J. Grosz on varhainen tekoälytutkija, joka kehitti malleja kielen ymmärtämiseen ja moniagenttijärjestelmiin. Hänen työnsä loi pohjaa älykkäille systeemeille, joissa tekoäly toimii yhteistyössä ihmisten kanssa ja huomioi toiminnan kontekstin sekä tavoitteet (Grosz & Sidner, 1986; Grosz et al., 2004). Grosz on myös pohtinut tekoälyn kehittämisen eettistiä näkökulmia ja muistuttanut sen yhteiskunnallisista vaikutuksista (Grosz, et al., 2019).

Julia Hirschberg (1950– )
Julia Hirschberg on pioneeritutkija puheentunnistuksen ja keskustelujärjestelmien kehittämisessä. Hänen tutkimuksensa esimerkiksi puheen rakenteesta ja prosodiasta (eli puheen "melodiasta") on auttanut rakentamaan luonnollisempaa vuorovaikutusta ihmisten ja koneen välillä (Hirschberg, 2002; Hirschberg & Manning, 2015). Hän on myös nostanut esiin vinoumia puheteknologiassa, erityisesti sukupuoleen ja aksentteihin liittyviä eroja, jotka vaikuttavat järjestelmien toimivuuteen eri käyttäjäryhmille. 

Fei-Fei Li (1976– )
Fei-Fei Li on vaikuttanut ratkaisevasti syväoppimisen läpimurtoon luomalla ImageNetin, laajan kuvadatan, joka kiihdytti neuroverkkojen kehitystä erityisesti vuoden 2012 jälkeen (Deng et al., 2009; Krizhevsky et al., 2012). Tutkimus loi perustan sovelluksille, joita käytetään nykyään terveydenhuollossa, liikenteessä ja digitaalisissa palveluissa (LeCun et al., 2015). Li on korostanut datan kriittistä arviointia syväoppimisessa: Mallit oppivat aineistosta ja heijastavat myös sen mahdollisia vinoumia (Mehrabi et al., 2021; Buolamwini & Gebru, 2018). Fei-Fei Li suosittaa ihmiskeskeistä tekoälyä, jossa tekninen kehitys linkittyy aina vastuullisuuteen ja yhteiskunnallisten vaikutusten huomioimiseen (Li, 2018).

Timnit Gebru (1983– )
Timnit Gebru on tekoälyn eettisen tutkimuksen suunnannäyttäjä. Hänen työnsä on osoittanut miten suurten datakokonaisuuksien ja mallien taustalla olevat valinnat tuottavat merkittäviä vinoumia ja haitallisia vaikutuksia (Gebru et al., 2018). Gebru tutkii jatkuasti kehittyvien kielimallien riskejä ja korostaa toiminnan läpinäkyvyyden ja datan laadun merkitystä (Bender et al., 2021).

Ajetaanpa lopuksi mutkat suoriksi niin, että heikompia hirvittää. Kokeillaan voisiko näiden yksittäisten esimerkkien pohjalta rakentaa jonkinlaista tekoälyn kehityslinjojen jatkumoa, vaikka tällainen pelihän on tieteessä tietysti täysin no go. Tekoälyn kehitys on edennyt laskentakapasiteetin ja ohjelmistotekniikan rakentamisesta kohti neuroverkkoihin perustuvia oppimismalleja. Kehitystä ovat vauhdittaneet erityisesti suurten tietoaineistojen saatavuus, skaalautuva laskenta ja syväoppiminen. Nykyvaihetta leimaa erityisesti generatiivisten kielimallien kehitys, multimodaalisuus (teksti, kuva ja ääni) sekä tekoälyn eettisyyden tutkimus ja kriittinen pohdiskelu. 

Promptasin erästäkin tekoälyä arvioimaan edellistä kappaletta tekoälyn ja ohjelmoinnin historian tutkijan ymmärryksellä. Vastaus herjaili kuvauksen olevan aika simppelsson ja jättävän huomiotta monia muita samanaikaisia kehityslinjoja. Joskus on siis mentävä tarkemmin pikseleihin, mutta nyt lähdettiin liikkeelle näillä ratapölkyillä.   

Huom. Käytin tämän tekstin oikolukuun Grammarlya. Ammattikääntäjien mukaan sen korjaukset kuulostavat robottimaisilta, mutta jep. Olen tarkistanut sisällön, joten kaikki virheet ovat vain ja ainoastaan ruudun tällä puolella hallusinoivan ihmisen. 

References

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623. https://doi.org/10.1145/3442188.3445922

Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 81, 77–91. https://proceedings.mlr.press/v81/buolamwini18a.html

Deng, J., Dong, W., Socher, R., Li, L.-J., Li, K., & Li, F.-F. (2009). ImageNet: A large-scale hierarchical image database. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 248–255. https://doi.org/10.1109/CVPR.2009.5206848

Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., & Crawford, K. (2018). Datasheets for datasets. arXiv. https://doi.org/10.48550/arXiv.1803.09010

Grosz, B. J., Grant, D. G., Vredenburgh, K., Behrends, J., Hu, L., Simmons, A., & Waldo, J. (2019). Embedded EthiCS: Integrating ethics across CS education. Communications of the ACM, 62(8), 54–61. https://doi.org/10.1145/3330794

Grosz, B. J., Kraus, S., Sullivan, D. G., & Das, S. (2004). The influence of social norms and social consciousness on intention reconciliation. Artificial Intelligence, 142(2), 147–177. https://doi.org/10.1016/j.artint.2004.08.006

Grosz, B. J., & Sidner, C. L. (1986). Attention, intentions, and the structure of discourse. Computational Linguistics, 12(3), 175–204.

Hamilton, M. (1976). Computer gotchas. Datamation, 22(4), 68–76.

Hirschberg, J. (2002). Communication and prosody: Functional aspects of prosody. Speech Communication, 36(1–2), 31–43. https://doi.org/10.1016/S0167-6393(01)00024-3

Hirschberg, J., & Manning, C. D. (2015). Advances in natural language processing. Science, 349(6245), 261–266. https://doi.org/10.1126/science.aaa8685

Hopper, G. M. (1952). The education of a computer. Proceedings of the ACM National Meeting, 243–249. https://doi.org/10.1145/609784.609818

Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. Advances in Neural Information Processing Systems, 25, 1097–1105. https://proceedings.neurips.cc/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html

LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436–444. https://doi.org/10.1038/nature14539

Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM Computing Surveys, 54(6), Article 115. https://doi.org/10.1145/3457607

Sammet, J. E. (1969). Programming languages: History and fundamentals. Prentice-Hall.