Nov 29, 2023
[Track1-5] WebGPU를 통한 private 생성 AI의 Hybrid inference 동향 - 고석현 (Sionic AI)
고석현
CEO
Nov 29, 2023
[Track1-5] WebGPU를 통한 private 생성 AI의 Hybrid inference 동향 - 고석현 (Sionic AI)
고석현
CEO
Overview
- WASM, WebGPU 의 대두
- Edge device의 성능 변천사 - A100을 이긴 Apple M2 ultra
- sLLM에 의한 Agent 구성
- 생성 AI 시대에서의 Federated Inference
- private 생성 AI 의 활용 사례 - LLM + Diffusion
발표자 소개
반갑습니다. Sionic AI의 대표이자 이전에는 네이버와 토스에서 주요 AI 프로젝트를 리딩한 경험을 가지고 있습니다. 네이버에서는 클로바와 네이버 클라우드의 AI 제품 개발을 주도했고, 수만 개 이상의 딥러닝 모델을 오케스트레이션 하는 시스템을 개발했습니다. 토스에서는 메인 검색 서비스의 시멘틱 검색과 브랜드 추천 시스템을 새롭게 구축하였습니다.
현재 Sionic AI에서는 엔터프라이즈 급 커스텀 LLM 서비스를 제공하며, LLM Agent에 특화된 SaaS 제품을 개발하고 있습니다.
기술과 비즈니스 경험을 바탕으로 새로운 생성 AI 시장에 도전하고 있습니다.
슬라이드 요청