현재 버전에서는 전방 주시 중에도 핸들 잡으라고 뜨는데, 12.4버전부터는 없어질듯.
-----
아래는 어제 중국 유저의 좋은 분석글이 하나 올라와서 번역해옴.
스페이스에서 한 번 언급했던 것 같은데, AI GPU연산력 향상 이후 업데이트 속도가 실제로 크게 빨라지지는 않았습니다. 마이너 릴리스의 경우 10일, 미디엄 릴리스의 경우 20일이 걸렸지만 이전에도 그랬었습니다. 저는 유효성 검사 과정에서 병목 현상이 발생해 유효성 검사 프로세스가 불가피했기 때문이라고 분석하고 있었는데, 이 사실은 Elon에 의해 확인되었습니다.
처음에는 검증이 순수한 현실 검증이라고 생각했는데, 아쇼크는 컨퍼런스 콜에서 설명하길:
먼저 폐쇄 루프 시뮬레이션 검증을 한 다음,
개방 루프 현실 검증을 한다.
폐쇄 루프 검증은 주로 지난 몇 년 동안 축적된 '주요 이1벤트'를 재생하거나, 비디오를 생성하여 유사한 상황을 시뮬레이션하여 검증합니다.(둘 다 가속화할 수 있음),
개방 루프 검증에는 'QA', 'QC', 'QR'이 포함된다고 설명했습니다. 개방 루프 검증에는 "QA-직원-사용자" 세 개의 링크가 점진적으로 푸시되어야 합니다(실제로 가속화할 수 없음).
중요한 점은 실제 검증 부분이 매우 중요하며 생략할 수 없다는 것입니다. 우리는 실제를 모방하여 대체할 수 없습니다. 완벽한 모방의 전제 조건은 현실의 완벽한 예측이기 때문에, 현실을 완벽하게 예측할 수 있다면 최종 목표가 달성되어 모방이 필요하지 않을 것입니다. 따라서 우리는 현실 검증이 생략될 수 없다는 결론을 내릴 수 있습니다. 사실, 현재는 Elon에 의해 FSD의 새로운 병목으로 공식적으로 확인되었습니다.
여기에는 많은 분들이 잘 모르실 수도 있는 몇 가지 핵심 사항이 있는데, 지난번 Space에서 공유하지 못했습니다:
1. 대부분의 운전 시간은 지루한 차선 유지 등 '쓰레기 시간'에 불과합니다. 따라서 운전보조의 문턱은 매우 낮고 누구나 할 수 있습니다. 누구나 작동할 것 같은 제품을 만들 수 있습니다.
2. 그러나 운전 난이도의 상한선은 매우 높으며, 가장 복잡한 상황은 아마도 인간도 처리할 수 없을 것이고, 전설적인 AGI의 등장을 기대해야 할 것입니다. 그리고 이러한 복잡하고 희귀 한 사례는 매우 드물게 분포되어있어 일반인은 며칠에 한 번도 만지지 못할 수도 있습니다.
3. 이후 훈련에서는 어렵고 희귀한 개입 데이터만이 중요한 가치를 가지므로 모델 능력의 상한을 높일 수 있습니다. 그러나 모델이 점점 더 안전해짐에 따라 희귀한 상황이 발생하는 빈도도 점점 낮아질 것입니다.
4. 현재 FSD 자체는 아직 완벽하지 않지만 "FSD + 인간"데이터는 안전 측면에서 이미 인간을 능가했습니다. 따라서 FSD 개입 데이터의 수집 효율은 실제로 높지 않으며, 현재 더 안전한 v12.3.X는 안그래도 어려운 개입 데이터 확보의 어려움을 더욱 증가시킬 수 있습니다. 그리고 v12.4.X, v12.5.X 등과 같은 향후 버전에서는 데이터 확보 난이도가 더욱 높아질 것으로 예상할 수 있습니다.
5. 이러한 "중요 이1벤트"의 수집, 훈련 및 검증은 본질적으로 대규모 차량으로만 수행할 수 있습니다. FSD의 기하급수적인 능력 향상은 이상적인 경우에 차량 규모의 확대를 가져올 것이며, 이를 통해 데이터의 양이 기하급수적으로 증가하고 "새로운 개입"의 빈도가 크게 증가하게 될 것입니다. "새로운 개입" 데이터의 지속적인 발생은 FSD의 역량을 다음 단계로 끌어올릴 것입니다.
위의 5가지 사항을 바탕으로, 희귀 사례 수집의 난이도가 너무 높기 때문에 '검증 병목 현상'을 해결하는 데 드는 비용도 너무 높을 것으로 예상합니다. 단기적으로는 이 문제에 대한 근본적인 해결책을 찾기 어려울 수 있습니다. 능력이 강화될 때마다 팀이 FSD차량을 더 확대하여 수집 효율이 줄어든 것을 보완해야 합니다.
하지만 제 생각에는 이 '높은 난이도'가 바로 FSD, 미래 무인 차량, 그리고 모든 실제 AI 제품에서 가장 중요하고 필수적인 해자이며, 완벽한 FSD를 실현하기 위해서는 인류의 대부분이 FSD에 합류해야 할지도 모릅니다.
인공지능(FSD)이 한 번 훈련되면 인류 사회는 아마도 또 다른 인공지능(자율주행)을 훈련하고 싶어하지 않을 것입니다. 이는 엄청난 자원 낭비가 될 것입니다. '전략적인 이유'로 두 번째 모델을 훈련시키고 싶어도 첫 번째 모델보다 몇 배는 더 어려울 것입니다. 왜냐하면 사용자가 저렴하고 사용하기 쉬운 완벽한 FSD를 갖게 되면, 더이상 스타트업과 함께하는 데에 인내심을 갖지 않을 것이기 때문입니다. 그들은 이미 완성된 FSD를 두고 또다른 모델의 훈련을 위해 돈을 쓰고 안전을 희생하지 않을 것이며, FSD와는 다르게 무료로 테스트, 검증 및 개선을 도와주지 않을 것입니다.
-----
커뮤맨 작성
