비만 LLM 이젠 경량화의 시간이 왔습니다!(AI 경량화에 대해) скачать в хорошем качестве

비만 LLM 이젠 경량화의 시간이 왔습니다!(AI 경량화에 대해)

#LLM #SLLM #경량화 #AI경량화 #GPU #엔비디아 #GB200 #파라미터 현재 AI 시장을 주름잡는 기술은 LLM(LARGE LANGAGE MODEL)입니다. 이젠 LLM은 멀티모달로 그 지평을 넓히면서 더욱 고도화되고 있는데요. 2018년 GPT 연구가 시작된 이후 기하급수적으로 늘어난 파라미터의 개수가 이를 대변하고 있습니다. 그런데 이렇게 파라미터의 수가 늘어난다는 것은 곧 연산량이 폭증한다는 것을 의미하고, 이는 곧 하드웨어의 획기적인 성능 향상을 요구하게 되기에 이르렀습니다. 하드웨어 진영도 계속하여 반도체의 성능을 업그레이드 하며 AI 연산의 원활한 작동을 위해 노력해 왔습니다. 하지만 물리적으로 반도체의 성능을 무한대로 끌어올리기엔 한계가 명확합니다. 그렇기 때문에 하드웨어 진영에서는 결합과 조합을 통하여 성능 한계를 뛰어넘기 위한 노력을 하고 있습니다. 하지만 이러한 노력에도 불구하고 모델의 크기가 점점 늘어나면서 반도체 성능 유지를 위한 과도한 전력 사용이 도마 위로 올라오고 있습니다. 이와 함께 각광을 받고 있는 기술이 바로 AI 모델의 경량화 기술입니다. 이에 대해서 알아보겠습니다.