[기원상컬럼] 초지능AI의 시대, 인간은 무엇을 결정할 수 있나

― 도깨비 방망이와 기업가정신

일론 머스크가 22일 스위스 다보스에서 열린 제56회 세계경제포럼(WEF) 연차총회에서 연설하고 있다. [사진=로이터통신]

옛 이야기에 도깨비 방망이가 나온다. 방망이를 두드리면 쌀이 쏟아지고 금은보화가 생긴다. 가난한 나무꾼은 하루아침에 부자가 된다. 그러나 이야기의 끝은 늘 비슷하다. 욕심을 부리면 방망이는 사라지고, 때로는 모든 것을 잃는다. 도깨비는 선의를 베푸는 존재가 아니라 대가를 요구하는 존재였기 때문이다.

21세기에도 도깨비 방망이가 돌아온다고 한다. 이름은 ‘초지능(Superintelligence)’이다. 일론 머스크는 AI가 곧 인류 지능의 총합을 넘어설 것이라 말하고, 손정의는 인간보다 1만 배 똑똑해질 것이라고 장담한다. 듣기만 해도 솔깃하다. 시장 예측과 투자 판단, 리스크 관리를 초지능에 맡기고 기업가는 도깨비 방망이를 두드리듯 “성공하게 해달라”고 말하면 될 것만 같다.

하지만 우리 설화는 늘 경고한다.
기이한 힘에는 반드시 값이 따른다.

초지능 AI가 완벽에 가까운 비용·편익 분석과 성공 확률을 제시해 준다고 해서 경영의 위험이 사라지는 것은 아니다. 위험은 줄어들지 않는다. 형태를 바꿔 돌아올 뿐이다. 과거에는 실패해도 “운이 없었다”거나 “정보가 부족했다”는 변명이 가능했다. 그러나 AI가 정답에 가까운 수를 보여주는 시대에는 다르다. 실패는 더 이상 불운이 아니다. 판단의 결과다.

일부 경영자들은 AI 뒤에 숨을 궁리를 한다. 문제가 생기면 “알고리즘의 오류였다”고 말하면 될 것이라 여긴다. 그러나 시장은 그런 변명을 받아주지 않는다. 불량품을 판 상인이 “기계가 잘못 만들었다”고 말한다고 해서 책임을 면하지 못하는 것과 같다. 자본주의의 원칙은 단순하다. 도구를 선택한 사람이 결과를 진다.

초지능이 등장할수록 기업가정신은 약해지는 것이 아니라 오히려 더 선명해진다. 초지능은 계산하고 권고할 수는 있지만, 어디까지 맡길지를 결정하는 권한은 인간에게 남는다. 그리고 그 경계를 잘못 그었을 때의 위험을 떠안는 주체 역시 인간이다.

이것이 초지능 시대 기업가정신의 본질이다. 혁신은 더 이상 ‘누가 더 영리한가’의 문제가 아니다. 누가 그 선택에 자기 이름을 걸 수 있는가의 문제다. 도깨비 방망이를 쥘 용기만큼이나, 그 결과를 감당할 담력이 요구된다.

우리 설화의 진짜 교훈은 부자가 되는 법이 아니다. 힘을 다룰 자격이 있는가라는 질문이다. 초지능이라는 방망이는 분명 막대한 생산성과 풍요를 가져올 수 있다. 그러나 아무 대가 없이 사용할 수 있는 힘은 아니다.

초지능 AI 시대에 기업가에게 필요한 것은 더 빠른 칩이나 더 큰 데이터센터가 아니다. 결과 앞에서 도망치지 않겠다는 결기, 그리고 힘의 대가를 기꺼이 감수하겠다는 각오다. 그것이 없다면 초지능은 도깨비 방망이가 아니라, 욕심 많은 주인을 벌하는 또 하나의 설화로 남게 될 것이다.
 

[그래픽=노트북LM]