67센트로 1.5시간 학습한 소형 Transformer, ARC-AGI-1에서 여러 LLM을 앞서다

RTX 5090 한 장에서 소형 Transformer를 처음부터 학습해 ARC-AGI-1 44%, ARC-AGI-2 7% 를 기록했으며, 전체 학습과 추론에 1.5시간과 67센트가 들었음
입력·출력 격자를 토큰화하고 과제별 임베딩, 3D RoPE, 색상·이면체 변환 증강을 결합해 여러 퍼즐을 함께 학습...