어느 날 우연히 보고 가슴이 뛰었다던, 최예진 교수의 영상들이다.
최예진 교수는 스탠퍼드대 인간중심 AI 연구소(HAI) 교수로,
AI 기술이 사회에 미칠 영향과 윤리적 원칙, 인간의 상식을 AI에 접목하는 독보적인 연구 성과를 인정받아,
2023년과 2025년 두 번이나 타임지의 인공지능(AI) 분야 가장 영향력 있는 100인에 ‘구상가’ 부문으로 선정됐었다.
당시 기사를 보니,
타임지가 “최예진 교수는 비용과 에너지를 많이 소모하는 LLM의 대안을 탐구하기 위해 HAI에 합류했다”며
“그가 주목하는 소규모언어모델(SLM)은 더 저렴하고 전력 효율이 높을 뿐 아니라 소수 거대 기업이 AI 산업을 독점하는 미래를 막을 수 있다”라고 평가했다고.
그리고 2023년 빌 게이츠와의 대화에서는
“현재의 초대형 모델은 블랙박스와 같아 투명성이 부족하고 데이터 독점 심화로 전 세계가 특정 기업에 의존하게 만들 위험이 있다”며 AI 권력 집중에 대한 우려를 피력했고,
또한 AI는 놀랍도록 똑똑하지만 충격적일 만큼 어리석을 수 있다는 ‘AI 역설’을 제시하며 AI 추론의 취약성을 지적해 왔단다.
나 왜 자꾸 ‘블랙박스’에 꽂히지..?^^
이뿐 아니라, 코로나 이후 관심을 가지고 있었던 기후문제와 관련해서도 AI의 엄청난 기능에만 혹해서 마구 사용하기가 찜찜했었는데.
이 두 가지 문제의식과 연결된 연구를 하는 사람이라고 하니 귀가 솔깃했다.
| TED 최예진 교수
전반적인 영상의 개요는 위의 기사 내용에 담긴 것 같고,
최예진 교수 강연 중 인상 깊었던 내용을 정리하면.
1. SLM의 모자란 점을 채우기 위해서 가장 좋은 방법은
데이터를 잘 주는 것과 데이터 의존도 자체를 낮출 수 있도록 알고리즘을 개발하는 것.
그래서 최교수는 인공지능을 이용해서 인공지능을 위한 데이터를 짜는 걸 연구하는데,
사실 그렇게 만들어진 데이터의 많은 부분이 별로라고.
이를 보완하기 위해 알고리즘을 잘 짜야 한단다.
그러기 위해 창의적인 생각이 중요하고.
2. AI 민주화가 중요한데, 링컨의 말에 접목해서 생각해보면.
– of the human(사람의): 인공지능의 원천인 데이터가 인간성을 반영해야. 인류의 가치, 지혜, 지식을 반영해야 하는데, 현재까지 LLM을 훈련시키는데 사용된 데이터의 절대다수는 인터넷에서 수집된 데이터이다.
– by the human(사람에 의한): 인공지능이 모든 사람에 의해 제작 가능해야 한다. 그래서 중형모델, 소형모델 등 다양한 모델이 필요하고, 그중에서도 소형모델과 오픈소스가 굉장히 중요하다.
– for the human(사람을 위한): 인공지능은 인류의 모든 사람들에게 도움이 되어야 한다. 그래서 너무 소수 나라의 빅테크에 의존하기 보다는 모든 단체, 나라의 힘을 합쳐서 인공지능이 사람에게 도움이 되는 기술이 될 수 있는지 함께 고민하고 같이 개발해야 한다고 생각한다.
3. AI 시대를 이끌어 갈 리더가 가져야 할 가치관
– 진취적 사고: 지식을 많이 외워서 쓰는 전문가 영역은 인공지능이 인간을 대체할 수 있다. 이제 인간은 그걸 사용하면서도 다음 단계로 갈 수 있는 본인만의 명확한 추론력을 길러 가겠다는 진취적 사고가 굉장히 중요
– 창의력: 인공지능은 새로운 세계를 만들어 가는 툴이 될 수 있는데, 그 툴은 뭔가를 만들어서 사용해야 의미가 있다. 아이디어를 잘 만들고 그걸로 가치를 창출하는 건, 빅테크에 맡겨둔다고 해서 해결되는 게 아니다.
4. AI가 절대 대체하지 못할 인간만의 능력은,
인공지능은 다양한 데이터를 전반적으로 다 학습하기 때문에, 획일화된 점이 없잖아 있다.
자연의 진화하는 생태계에서 발현되는 인간만의 고유한 특징이 있는데, 그러한 인간의 다양성은 인공지능이 대체 불가하다.
이 부분을 인공지능을 활용해서 더 개발할 수 있는 미래가 왔으면 좋겠다.
5. 책 추천
– 죽음의 수용소에서
– 넥서스
– 이성의 진화(The enigma of reasoning)