Speech LLM Research Scientist Internship
- Natural Language Processing
- AI
Not enough detail in this posting to match
ํ ์๊ฐ
Language Lab์ ์์ฐ์ด ์ฒ๋ฆฌ(NLP) ๋ถ์ผ์ ๊ธฐ์ ์ ๋์ ๋ฅผ ํด๊ฒฐํ๋ ์ ํ๊ธฐ์ ์ ์ฐ๊ตฌํ๋ ์กฐ์ง์ ๋๋ค. 'Learning-by-Reading AI'๋ฅผ ๋ฐํ์ผ๋ก ์ฑ๋ด์ ๋น๋กฏํ Language ๋ถ์ผ ์๋น์ค ํ์ ์ ๋ชฉํ๋ก ํ๊ณ ์์ผ๋ฉฐ, ์ต๊ทผ์๋ ํ ์คํธ๋ฅผ ์ฝ๊ณ ์ดํดํ๋ AI๋ฅผ ๋์ด ์์ฑ์ ๋ฃ๊ณ ๋งํ๋ AI๋ก ์ฐ๊ตฌ ๋ฒ์๋ฅผ ๋ํ๊ฐ๊ณ ์์ต๋๋ค.
์ด๋ฌํ ์์ฑ ์ฐ๊ตฌ์ ์ผํ์ผ๋ก SpeechLLM ์ฐ๊ตฌ๊ฐ ์์ต๋๋ค. ์์ฑ ์ธ์(STT)๊ณผ ์์ฑ ํฉ์ฑ(TTS)์ ๋๊ท๋ชจ ์ธ์ด๋ชจ๋ธ(LLM)๊ณผ ๊ฒฐํฉํด, ์ฌ๋์ ๋ง์ ์ง์ ๋ฃ๊ณ ์ดํดํ๋ฉฐ ์๋ตํ๋ ์์ฑ ๋ํ ๋ชจ๋ธ์ ์ฐ๊ตฌํฉ๋๋ค. ์ด๋ฌํ ๊ธฐ์ ์ AI Contact Center(AICC)๋ฟ ์๋๋ผ ์์ฑ ๋น์, ์ฐจ๋ยท๊ฐ์ ์ธํฐํ์ด์ค, ํ์ ์ง์, ์ดํ ๊ต์ก ๋ฑ ๋ค์ํ ์์ฑ ๊ธฐ๋ฐ ์๋น์ค๋ก ํ์ฅ๋ ์ ์์ต๋๋ค.
์ด๋ฒ ์ธํด ํ๋ก๊ทธ๋จ์์๋ ํ์ ์ฐ๊ตฌ์๋ค๊ณผ ํจ๊ป SpeechLLM ์ฐ๊ตฌ๋ฅผ ์ํํ๋ฉฐ, ์์ด๋์ด๋ฅผ ์ง์ ๋ชจ๋ธ๋ก ๊ตฌํํ๊ณ ๊ฒ์ฆํ๋ ๊ณผ์ ์ ๊ฒฝํํ๊ฒ ๋ฉ๋๋ค. ์์ฑ๊ณผ ์ธ์ด๊ฐ ๋ง๋๋ ๋ฌธ์ ์ ๊ด์ฌ ์๋ ๋ถ๋ค์ ์ง์์ ๊ธฐ๋ค๋ฆฝ๋๋ค.
ย ย
์ํ ์
๋ฌด
- [ Pipeline ๋ฐฉ์ (Cascaded STTโLLMโTTS) ๊ธฐ๋ฐ SpeechLLM ์ฐ๊ตฌ ]
- STT โ LLM โ TTS๋ก ์ด์ด์ง๋ Cascaded ํ์ดํ๋ผ์ธ์ ์คํธ๋ฆฌ๋ฐํ ๋ฐ Sub-Second ์ ์ง์ฐ ์ต์ ํ ์ฐ๊ตฌ
- VAD ๊ธฐ๋ฐ Half-Duplex ํด ๋ถํ ์ ํ๊ณ๋ฅผ ๊ฐ์ ํ๋ VAD-Free / Chunk ๋จ์ Micro-Turn ์ฒ๋ฆฌ ๊ธฐ๋ฒ ์ฐ๊ตฌ
- ๋ชจ๋ ๊ฐ ์ค๋ฅ ์ ํ๋ฅผ ์ค์ด๊ณ Paralinguistic(๊ฐ์ ยท์ด์จ) ์ ๋ณด ์์ค์ ์ํํ๋ ์ปจํ ์คํธ ์ ๋ฌยท์ ๋ ฌ ๊ธฐ๋ฒ ์ฐ๊ตฌ - [ End-to-End Full-Duplex ๊ธฐ๋ฐ SpeechLLM ์ฐ๊ตฌ ]
- Full-Duplex SpeechLLM ๋ชจ๋ธ ์ํคํ ์ฒ ์ฐ๊ตฌ
- ์์ฐ์ค๋ฌ์ด Turn-Taking, Barge-in, Backchannel, ๋ฐํ ๊ฒน์นจ ์ฒ๋ฆฌ ๋ฐ Stream Synchronization ๋ชจ๋ธ๋ง
- Audio EncoderโLLM ๊ฐ Modality Alignment ๋ฐ Speech Tokenizer / Neural Codec ์ฐ๊ตฌ
์ง์์๊ฒฉ
- ์์ฌ ํ์ ์ด์ (6๊ฐ์ ์ด์ ๊ทผ๋ฌด ๊ฐ๋ฅ์)
- Cascaded(STTโLLMโTTS) SpeechLLM ์ฐ๊ตฌ/๊ฐ๋ฐ ๊ฒฝํ
- Full-Duplex SpeechLLM ์ฐ๊ตฌ/๊ฐ๋ฐ ๊ฒฝํ
- Turn-Taking, Barge-in, Backchannel ๋ฑ ๋ํ ์ํธ์์ฉ ๋ชจ๋ธ๋ง ์ฐ๊ตฌ ๊ฒฝํ
- Speech Tokenizer ๋ฐ Neural Codec ๊ธฐ๋ฐ ์์ฑ ํํ ํ์ฉ ๊ฒฝํ
- AI ๊ด๋ จ Top-Tier ํํ(ICASSP, Interspeech, ACL, EMNLP, NeurIPS, ICLR ๋ฑ) ๋ ผ๋ฌธ ๋ฐํ ๋๋ ์ฐ๊ตฌ ์ฐธ์ฌ ๊ฒฝํ์ ์ฐ๋
์ ๊ณต
- ์ปดํจํฐ๊ณตํ, ์ ์ฐํ, ์ ์๊ณตํ, ์ฐ์ ๊ณตํ
์ ํ์ ์ฐจ
- ์๋ฅ์ฌ์ฌ โ ์ฝ๋ฉํ ์คํธ โ 1์ฐจ ์ง๋ฌด ์ธํฐ๋ทฐ(์จ๋ผ์ธ)
* ์ ํ ์ ์ฐจ๋ ๋ณ๊ฒฝ๋ ์ ์์ต๋๋ค. ์๋ฅ ํฉ๊ฒฉ ์ ์ ํ ์ ์ฐจ์ ๋ํด ๋ณ๋๋ก ์๋ด ํด ๋๋ฆฝ๋๋ค.
Speech LLM Research Scientist Internship ยท LG AI Research