데이터를 클라우드 서버로 보내지 않고, 사용자의 기기(스마트폰, 자동차, 공장 센서 등)에서 직접 AI 추론을 수행하는 방식이다. 응답 지연이 줄고, 개인정보가 기기 밖으로 나가지 않으며, 인터넷 연결 없이도 작동한다는 장점이 있다. 모델 크기가 작아야 하므로 경량화 기술(양자화, 지식 증류 등)이 핵심이다.
엣지 AI
aka Edge AI
클라우드가 아닌 기기 자체(스마트폰, IoT 등)에서 AI를 구동하는 방식
클라우드가 아닌 기기 자체(스마트폰, IoT 등)에서 AI를 구동하는 방식
데이터를 클라우드 서버로 보내지 않고, 사용자의 기기(스마트폰, 자동차, 공장 센서 등)에서 직접 AI 추론을 수행하는 방식이다. 응답 지연이 줄고, 개인정보가 기기 밖으로 나가지 않으며, 인터넷 연결 없이도 작동한다는 장점이 있다. 모델 크기가 작아야 하므로 경량화 기술(양자화, 지식 증류 등)이 핵심이다.