Round 478nextround
Next Round Slide test 2024
트랜스포머 모델은 대규모 언어 모델의 가장 일반적인 아키텍처이며, 인코더와 디코더로 구성되어 있습니다. 트랜스포머 모델은 입력된 정보를 토큰화한 다음, 토큰 간의 관계를 발견하기 위해 동시에 수학 방정식을 수행함으로써 데이터를 처리합니다. 이를 통해 컴퓨터는 동일한 쿼리가 주어졌을 때 인간이 볼 수 있는 패턴을 볼 수 있습니다.
트랜스포머 모델은 셀프 어텐션(self-attention) 메커니즘과 함께 작동하는데, 이 메커니즘은 모델이 장단기 기억 모델(long short-term memory models)과 같은 전통적인 모델보다 더 빨리 학습할 수 있도록 합니다. 셀프 어텐션은 트랜스포머 모델이 시퀀스의 다른 부분 또는 문장의 전체 맥락을 고려하여 예측을 생성할 수 있도록 하는 것입니다.
Next Round Slide test 2024
