홈으로 돌아가기

Thinking Machines: 실시간 AI 모델

Mira Murati의 Thinking Machines Lab이 지연 없이 실시간으로 기본 전체 화면 오디오 및 비디오가 가능한 상호작용 모델을 출시했습니다. 시스템은 200밀리초마다 데이터를 처리하여 0.40초의 기록적인 응답 속도를 달성합니다. 아키텍처 변화는 상호작용성을 외부 소프트웨어 추가 기능이 아닌 모델의 고유 속성으로 만듭니다.

지연 없는 AI: Thinking Machines 대 OpenAI
Advertisement 728x90

Thinking Machines Lab, 실시간 상호작용 AI 모델 공개

Mira Murati의 스타트업 Thinking Machines Lab이 네이티브 풀스크린 오디오 및 비디오를 실시간으로 처리하는 상호작용 모델을 출시했습니다. 데모에서는 지연 없는 동시 번역, 웹 검색, 다중 인원 협업을 선보였습니다.


Thinking Machines: Mira Murati가 규칙을 다시 쓰는 방법, 지연 시간이 AI의 가장 큰 적이 되다

실제 상황

Mira Murati의 Thinking Machines Lab이 '상호작용 모델'의 작동 프로토타입을 공개했습니다. 이는 단순한 또 다른 멀티모달 시스템이 아닙니다. AI가 시간과 인간의 존재를 인식하는 방식에 대한 근본적인 재고입니다. GPT-4o부터 Gemini까지 모든 현재 모델은 단계별 모드로 작동합니다. 사용자가 요청을 보내고, 시스템이 생각한 후 응답합니다. 그 사이에 모델은 눈과 귀가 멀게 됩니다. Murati는 이를 인간이 적응해야 하는 '인터페이스의 구속복'이라고 부릅니다.

TML-Interaction-Small은 2,760억 개의 파라미터를 가진 mixture of experts(12억 개 활성 파라미터)로, 오디오와 비디오를 200밀리초 단위로 처리하면서 동시에 응답을 생성합니다. 전환 지연 시간은 0.40초로, Gemini-3.1-flash-live의 0.57초, GPT-realtime-2.0의 1.18초보다 빠릅니다. 이 시스템은 초대 없이 대화에 끼어들고, 시각적 단서(코딩 오류, 프레임에 들어오는 사람)를 알아채고 반응할 수 있으며, Whisper와 같은 외부 음성 인식 모듈이 필요 없습니다.

Google AdInline article slot

하지만 속도가 전부는 아닙니다. 중요한 것은 아키텍처의 변화입니다. 상호작용성이 소프트웨어 래퍼가 아닌 모델 자체의 속성이 되었습니다. 이는 자전거 벨을 볼트로 고정한 자동차와 운전자 중심으로 설계된 자동차의 차이와 같습니다.

타임라인 및 배경

Thinking Machines의 이야기는 실리콘밸리 역사상 최대 인재 전쟁의 기록입니다.

2025년 2월: OpenAI의 전 CTO이자 ChatGPT 설계자인 Mira Murati가 Thinking Machines Lab 설립을 발표합니다. OpenAI 공동 창업자 John Schulman과 여러 핵심 연구원이 그녀와 함께 떠납니다.

Google AdInline article slot

2025년 7월: 회사는 역사상 최대 규모의 시드 라운드인 20억 달러를 100~120억 달러의 가치 평가로 조달합니다. Andreessen Horowitz, NVIDIA, Accel, ServiceNow, Cisco, AMD가 참여합니다.

2025년 8월: Wall Street Journal은 Mark Zuckerberg가 Thinking Machines를 직접 인수하려 했다고 보도합니다. 거절당한 후, Meta는 약 50명의 직원 중 12명 이상을 스카우트합니다.

2025년 10월: 오픈소스 모델을 미세 조정하기 위한 플랫폼 Tinker 출시. 초기 사용자로 Princeton, Stanford, Berkeley의 연구 그룹이 포함됩니다.

Google AdInline article slot

2026년 1월: 저격. 세 명의 공동 창업자 Barrett Zoph, Luke Metz, Sam Schoenholz가 OpenAI로 돌아갑니다. Murati는 Zoph를 '비윤리적 행위'로 해고했다고 공개적으로 밝힙니다. 이후 Wired 조사에서 Zoph와 한 여성 임원 간의 공개되지 않은 개인적 관계가 드러납니다. OpenAI는 내부 메모에서 Murati의 주장에 이의를 제기합니다.

2026년 3~4월: Thinking Machines의 반격. 회사는 Meta에서 PyTorch 창시자 Soumith Chintala를 스카우트하여 CTO로 임명합니다. 동시에 NVIDIA와 최소 1기가와트의 Vera Rubin 시스템을 배포하는 전략적 계약을 체결합니다. 업계 전문가들은 이러한 인프라 비용을 5,000억 달러로 추정합니다. GB300 기반 Google Cloud와의 파트너십도 확대됩니다.

2026년 5월: 클라이맥스. Thinking Machines가 상호작용 모델을 시연하며 6개월 간의 인재 손실이 개발을 막지 못했음을 입증합니다.

승자와 패자

승자: Meta — 가장 덜 obvious한 수혜자. Zuckerberg는 회사를 인수하지 않고 Thinking Machines의 핵심 개발자에 접근할 수 있었습니다. PyTorch 창시자 Soumith Chintala가 이제 Murati의 CTO가 되면서, PyTorch 생태계가 Thinking Machines에서 지배적으로 유지되어 Meta에 간접적으로 이익이 됩니다.

패자: OpenAI. Schulman을 잃고 Murati로의 인재 유출로 인해 역스카우트에 자원을 소비해야 했습니다. Zoph와 Metz의 복귀는 승리이지만, 피로스의 승리입니다. OpenAI는 평판에 그림자가 있는 직원을 고용한 것을 공개적으로 정당화해야 했습니다. 더 나쁜 점: Thinking Machines는 OpenAI의 플래그십 인터페이스인 ChatGPT의 음성 모드를 직접 공격하는 제품을 만들었습니다.

패자: Google. 실시간 상호작용의 돌파구로 발표된 Gemini-3.1-flash-live는 이미 종이 위에서 구식이 되었습니다. 0.57초 대 0.40초는 '거의 인간 같다'와 '인간이다'의 차이입니다.

승자: NVIDIA. Jensen Huang은 계속해서 능숙하게 헤지하고 있습니다. NVIDIA는 OpenAI, Thinking Machines, Anthropic에 투자하고 있습니다. AI 모델 경쟁에서 누가 이기든, 칩은 Santa Clara에서 구매됩니다. 1기가와트 Vera Rubin 계약은 Thinking Machines가 사업으로 성공하지 못하더라도 NVIDIA가 수년간 주문을 확보했음을 의미합니다.

언론이 말하지 않는 것

통찰 1: 아무도 이야기하지 않는 주변 플레이. Thinking Machines의 전체 프레젠테이션은 저지연 음성 및 비디오에 초점을 맞추고 있습니다. 그러나 상호작용 모델의 실제 경제적 중요성은 콜센터가 아니라 산업에 있습니다. 시간 감각이 내장된 모델은 생산 라인, 수술, 화학 실험을 모니터링하고 요청 없이 이상 징후를 발견하여 개입할 수 있습니다. 현재는 이를 위해 대화가 불가능한 별도의 컴퓨터 비전 시스템이 필요합니다. Thinking Machines는 이를 단일 아키텍처로 통합합니다. 제품이 기업에 도달하면 챗봇이 아니라 전체 산업 안전 SCADA 시스템 클래스를 대체할 것입니다. 이는 약 800억 달러 규모의 시장으로, 모든 스타트업 리뷰가 무시하고 있습니다.

통찰 2: 재현성 문제. Whisper와 같은 외부 음성 인코더는 교체하여 인식 품질을 변경할 수 있습니다. 그러나 Thinking Machines의 아키텍처에는 인코더가 없습니다. 오디오는 dMel 스펙트로그램으로 직접 경량 임베딩을 통해 전달됩니다. 이는 구성 요소를 교체하여 모델을 '수정'할 수 없음을 의미합니다. 특정 억양이나 방언에서 환각이 발생하면 전체 시스템을 재훈련해야 합니다. 기업 고객에게 이는 OpenAI가 꿈도 꾸지 못한 규모의 벤더 종속 위험을 제기합니다.

통찰 3: 금융 피라미드인가, 새로운 Intel인가? NVIDIA가 AI 스타트업에 투자하고, 그 스타트업이 모금된 돈을 NVIDIA 칩에 지출하는 패턴은 일부 분석가에게 90년대 후반 인터넷 버블을 연상시킵니다. 그러나 결정적인 차이가 있습니다. 1999년 통신 회사는 아무도 사용하지 않는 광섬유를 깔았습니다. Thinking Machines는 기존 수요를 위한 데이터 센터를 구축하고 있습니다. 주문은 이미 들어와 있고, 용량이 지금 필요합니다. AI 서비스 시장이 붕괴해야만 버블이 될 것이지만, 현재 평가는 상승 중입니다. 공개 제품이 없는 회사에 120억 달러는 공격적이지만, 상호작용 모델 데모 8개월 전에 이미 그 수준이었습니다.

예측: 향후 30일 및 90일

30일 (2026년 6월 중순까지). Thinking Machines는 선택된 파트너에게 연구 프리뷰에 대한 제한적 액세스를 열 것입니다. 가장 유력한 후보: Redwood Research(이미 Tinker와 협력), Stanford, Princeton. 독립적인 테스트에서 0.4초 지연 시간을 확인하지만 다국어 문제가 드러날 것으로 예상합니다. 아키텍처는 주로 영어로 훈련되었으며, 일시 중지 구조가 다른 아시아 언어에서는 성능이 떨어질 것입니다.

한편, 경쟁사는 대응을 강화할 것입니다. OpenAI는 거의 확실히 지연 시간을 줄인 GPT-realtime 업데이트를 발표할 것입니다. 아마도 0.5~0.6초로 낮출 것입니다. Google은 전통적으로 5월에 열리는 Google I/O에서 Gemini를 Android 생태계와 통합하여 대응하려 할 것입니다.

90일 (2026년 8월 중순까지). 이는 Thinking Machines에게 비즈니스로서 중요한 기간입니다. 회사는 설립 이후 인프라와 급여에 최소 20~30억 달러를 지출했습니다(130명의 직원, 대부분 연간 200~500만 달러의 보상 패키지와 사이닝 보너스를 받는 전 OpenAI 직원). 90일 이내에 연구 커뮤니티 외부에서 유료 기업 고객이 나타나지 않으면 새로운 자금 조달 라운드에 대한 논의가 시작될 것입니다.

산업 안전이 첫 번째 시장이 될 것입니다. Thinking Machines는 최소한 하나의 주요 계약을 Fortune 500 제조업체와 체결해야 합니다. 실시간 모니터링이 필요한 생산 관리 시스템을 보유한 Siemens나 Rockwell Automation과의 파트너십이 논리적으로 보입니다.

90일 기간의 가장 중요한 이벤트는 Meta의 결정입니다. Zuckerberg가 회사 인수에 실패하고 일부 팀을 스카우트한 후, 두 가지 옵션이 있습니다. Llama 5를 위해 Thinking Machines의 아키텍처를 완전히 복사하거나, 이번에는 적대적인 새 제안을 하는 것입니다. Soumith Chintala가 이제 Murati의 CTO이며 Meta의 내부 사정을 알고 있다는 점을 감안할 때, 복사에 베팅하겠습니다.

결론적으로: Thinking Machines는 아이디어에서 제품까지 16개월 만에 OpenAI와 Google의 플래그십 시스템을 미래의 핵심 매개변수인 반응 시간에서 이겼습니다. Murati가 기술적 우위를 지속 가능한 비즈니스로 전환할 수 있을지는 향후 3개월의 문제입니다. 그러나 한 가지는 이미 분명합니다. AI를 기다리게 하는 시대가 끝나고 있습니다.

— Editorial Team

Advertisement 728x90

다음 읽기