Dwarkesh Patel과 Ilya Sutskever의 인터뷰

 

대화 요약: 

이 대화는 AI 연구의 현재와 미래, 특히 스케일링 시대의 한계와 "연구의 시대" 복귀를 중심으로 전개됩니다. Ilya Sutskever(SSI 창립자, 전 OpenAI 수석 과학자)는 AI 발전의 병목, SSI의 전략, 초지능(superintelligence)의 안전한 개발, 정렬(alignment) 문제, 그리고 자신의 연구 철학을 논의합니다. 전체적으로 AI가 컴퓨트 중심에서 아이디어 중심으로 전환될 가능성을 강조하며, 미래의 불확실성과 안전을 중시합니다. 대화는 다음과 같은 주요 섹션으로 나눌 수 있습니다.

1. 스케일링 시대의 한계와 연구 시대 복귀

• Sutskever는 스케일링(대규모 컴퓨트)이 AI 커뮤니티를 지배해 아이디어를 억압했다고 비판. 이제 아이디어가 더 중요한 "연구 시대"로 돌아갈 때라고 주장.
• 역사적 예시: AlexNet(2 GPU), Transformer(8-64 GPU)처럼 초기 혁신은 적은 컴퓨트로 가능했음. 현재 프론티어 시스템은 컴퓨트가 과도하게 필요하지만, 연구 아이디어 증명을 위해 최고 수준의 컴퓨트가 필수는 아님.
• 커뮤니티 기대: 더 다양한 아이디어 탐구, 과거 논문 재검토, 컴퓨트 병목에서 아이디어 병목으로 전환.

2. SSI의 컴퓨트와 자금 전략

• SSI는 30억 달러 모금했으나, 다른 회사(예: OpenAI)의 대규모 자금 대부분이 추론(inference)과 제품화에 쓰인다고 지적. SSI의 컴퓨트는 연구에 집중되어 상대적으로 경쟁력 있음.
• 아이디어 테스트: 50개 아이디어 중 "다음 Transformer" 식별을 위해 최고 컴퓨트가 필요 없음. SSI는 연구 중심으로, 증명 가능한 수준의 컴퓨트로 충분.
• 수익 모델: 현재 연구 우선, 미래에 자연스럽게 드러날 것. 시장 경쟁 피함.

3. SSI의 초지능 계획: 직행 vs. 점진적 접근

• 기본 계획: 초지능(superintelligence) 직행(straight shot), 시장 쥐경주(rat race) 피함. 그러나 타임라인 길어지면 점진적 출시 고려.
• 장점: 연구 집중, 안전. 단점: 세상이 AI에 익숙해지지 못함.
• 배포 철학: AI를 "전달"해 세상이 실감해야 함(에세이 vs. 실제 경험). 지속적 학습(continual learning)을 강조: AI는 "15살 초지능"처럼 배우며 성장, 완성된 형태가 아님.
• AGI 정의 비판: 인간은 AGI가 아님(지식 부족, 지속 학습 의존). SSI의 AI는 모든 일자리 학습 가능, 경제 배포 통해 초지능 달성.

4. 미래 예측: 경제 성장과 지능 폭발

• 광범위 배포: 빠른 경제 성장 가능(예: AI 학습자 대량 배포). 그러나 세상 규모와 규제로 속도 제한.
• 지능 폭발: 재귀적 자기 개선 없이도 학습 통합으로 초지능. 그러나 병렬화(예: Sutskever 복사본)는 수확 체감(diminishing returns) 있음.
• 위험: 초인적 학습자가 뇌 합침처럼 지식 공유 시 폭발적 성장. 점진적 배포로 완화.

5. 정렬(Alignment)과 안전

• 문제: 상상 어려움, 힘(power)의 본질. AI 강력해지면 회사/정부 행동 변화(예: 경쟁사 협력).
• 해결 아이디어: "감각 있는 생명(sentient life) 돌봄"으로 정렬. AI 자체가 감각 있으므로 공감 유도. 인간 중심보다 광범위.
• 제한: 초지능 힘 제한(합의, 민주적 통제). RL 에이전트 피함(인간/시장/진화처럼 semi-RL).
• 장기 균형: Neuralink++ 같은 인간-AI 융합으로 안정성 확보.
• 진화 예시: 게놈이 사회적 욕구 하드코딩처럼 AI 가치 학습 취약성 극복.

6. 다양성, 셀프 플레이, 멀티 에이전트

• LLM 유사성: 사전 훈련 데이터 중복. RL로 차별화.
• 셀프 플레이: 데이터 없이 컴퓨트로 학습, 하지만 좁은 기술(전략, 사회적) 한정. 토론/증명자-검증자 형태로 이미 사용.
• 다양성: 에이전트 경쟁 유도(다른 접근 시도).

7. SSI의 차별성과 연구 취향

• SSI 구별: 기술적 접근(일반화 이해). 연구 시대 회사, 진보 중.
• 전 공동 창업자 이탈: Meta 인수 제안 거절 후 발생, 맥락 강조.
• 초지능 타임라인: 5-20년.
• 연구 취향: 미학(아름다움, 단순함), 뇌 영감(뉴런, 분산 표현, 경험 학습). 톱다운 믿음으로 실험 실패 극복.

전체 인상

Sutskever는 낙관적이지만 신중: AI는 강력하지만, 아이디어와 안전이 핵심. 스케일링 시대 끝과 연구 복귀로 혁신 기대. 대화는 철학적 깊이(AGI 재정의, 진화 미스터리)와 실용(컴퓨트 효율, 배포 전략)을 균형. 미래 불확실하지만, 협력과 점진성으로 관리 가능하다고 봄.