AI Data Engineer
- AI
- IAM
- Kubernetes
- CI/CD
- GCP
- Python
- Linux
- Unity Catalog
- Hive
- Delta Lake
- Apache Iceberg
- Apache Spark
- Trino
- Flink
- IaC
- GitOps
- Helm
- Terraform
- ArgoCD
[ํ์๊ฐ]
LG AI Research๋ EXAONE์ ๋น๋กฏํ ๋๊ท๋ชจ AI ๋ชจ๋ธ ์ฐ๊ตฌยท๊ฐ๋ฐ์ ํตํด ์ฐ์ ์ ๋ฐ์ AI ์ ํ์ ์ ๋ํ๊ณ ์์ต๋๋ค.
Product Unit ์ฐํ Data Governanceํ์ ์ฐ๊ตฌ ์กฐ์ง ์ ๋ฐ์์ ์์ฑยทํ์ฉ๋๋ ๋ฐ์ดํฐ์ ๋ํ ์ ์ฑ ์ ์๋ฆฝํ๊ณ , ์ผ๊ด๋ ๋ฐฉ์์ผ๋ก ์์งโ์ ์ โ๋ฒ์ ๊ด๋ฆฌโ๊ฒ์โ๊ณต์ โ์ ๊ทผ์ ์ด ํ ์ ์๋ ํตํฉ ๋ฐ์ดํฐ ํ๋ซํผ์ ์ค๊ณยท๊ตฌ์ถ, ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ค์ํ ์ธ๋์คํธ๋ฆฌ์ ์ต์ AI ๊ธฐ๋ฒ์ ์ค์ ์๋น์ค/์ ๋ฌด์ ์ ์ฉํ๋ Practical AI๋ฅผ ๊ตฌํํฉ๋๋ค.
ํ์ฌ ์ฌ๋ฌ ์ฐ๊ตฌ ๋ฉ์ด ๋ ๋ฆฝ์ ์ผ๋ก ๋ฐ์ดํฐ๋ฅผ ๊ด๋ฆฌํ๋ฉฐ ๋ฐ์ํ๋ ๊ฒ์/๋ฒ์ /๊ณต์ /๊ฑฐ๋ฒ๋์ค์ ํ๊ณ๋ฅผ ํด๊ฒฐํ๊ณ , ํํ๋ฐ์ดํธ(PB) ๊ท๋ชจ ์ฐ๊ตฌ ๋ฐ์ดํฐ๋ฅผ ์์ ์ ์ผ๋ก ์ด์ํ์ฌ ์ฐ๊ตฌ์์ด ๋ฐ์ดํฐ ๊ณ ๋ฏผ ์์ด ์ฐ๊ตฌ์ ๋ชฐ์ ํ ์ ์๋ ํ๊ฒฝ์ ๋ง๋๋ ๊ฒ์ด ๋ชฉํ์ ๋๋ค. ์ด ๋ฐฉํฅ์ฑ์ ๋ฐ์ดํฐ ํ๋ซํผ ์ํคํ ์ฒ ๊ด์ ์์ ์ฃผ๋์ ์ผ๋ก ์ค๊ณํ๊ณ ๊ตฌํํ ๋ถ์ ์ฐพ๊ณ ์์ต๋๋ค.
ย
[์ํ ์ ๋ฌด]
- Data Catalog(๊ฒ์/๋ถ๋ฅ/ํ์ง/์์ ๊ถ) ๋ฐ ํ์ค ์คํค๋ง/์ ์ฑ
์ฒด๊ณ ์ค๊ณ
- ๋ฐ์ดํฐ ์ ๊ทผ ์ ์ด(๊ถํ/์ ์ฑ
/ํ ํฐยทIAM ๊ธฐ๋ฐ), ๊ฐ์ฌ(Audit)ยท์ถ์ ์ฒด๊ณ ์ค๊ณ ๋ฐ ๊ตฌํ
- SDK/CLI ๊ฐ๋ฐ ๋ฐ ์ฐ๊ตฌ ์ํฌํ๋ก์ฐ(ํ์ต/ํ๊ฐ/์คํ)์ ํตํฉ
- Kubernetes ๊ธฐ๋ฐ Data Pipeline ์๋น์ค ๋ฐฐํฌ ๋ฐ ์ด์, CI/CD ๋ฐ ์ด์ ์๋ํ
- Google Cloud Platform ๊ธฐ๋ฐ PB๊ธ ์คํ ๋ฆฌ์งยทํ์ดํ๋ผ์ธ ์ํคํ
์ฒ ์ค๊ณ ๋ฐ ์ด์
- ๋ค์ ์กฐ์ง/๋๊ท๋ชจ ๋ฐ์ดํฐ ย ์ฑ๋ฅยท๋น์ฉยท๊ฐ์ฉ์ฑ ์ต์ ํ ๋ฐ SLO/SLA ๊ธฐ๋ฐ ์ด์
- ์์คํ
๋ชจ๋ํฐ๋ง/๊ด์ธก ํ๊ฒฝ ์ค๊ณ(๋ฉํธ๋ฆญ/๋ก๊ทธ/์๋ฆผ) ๋ฐ ์ฅ์ ๋์ ์ฒด๊ณ ๊ณ ๋ํ
ย
[์ง์์๊ฒฉ]
- ์ํํธ์จ์ด ์์ง๋์ด๋ง ๊ฒฝ๋ ฅ 7๋
์ด์, ์ด ์ค ๋ฐ์ดํฐ ์ธํ๋ผยทํ๋ซํผ 3๋
์ด์ ๋ฐ ๋ฐ์ดํฐ ํ๋ซํผ ์ํคํ
์ฒ ์ค๊ณ ๊ฒฝํ ๋ณด์
- Google Cloud Platform ๊ธฐ๋ฐ ์ธํ๋ผ ์ค๊ณยท์ด์ ๊ฒฝํ
- Kubernetes ๊ธฐ๋ฐ ์๋น์ค ๋ฐฐํฌยท์ด์ ๊ฒฝํ(์ด์ ์๋ํ/์ฅ์ ๋์ ํฌํจ)
- Python ๊ธฐ๋ฐ ๋ฐฑ์๋/ํ๋ซํผ ๊ฐ๋ฐ์ ๋ฅ์ํ๋ฉฐ, ๋๊ท๋ชจ ์์คํ
์ค๊ณยท๊ตฌํ ๊ฒฝํ ๋ณด์
- ๋ถ์ฐ ์์คํ
์ค๊ณ ์์น์ ๋ํ ์ดํด์ ์ด์ ๊ฒฝํ
- ์ ํ/๋น์ ํ ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ(์์ง/๊ฐ๊ณต/์ถ์ถ) ์ค๊ณยท๊ฐ๋ฐ ๊ฒฝํ
- Linux ํ๊ฒฝ์์์ ๊ฐ๋ฐ ๋ฐ ์์
์ ์ต์ํ๋ฉฐ, ๋ค์ํ ์ดํด๊ด๊ณ์์ ์ํํ ๊ธฐ์ ์ปค๋ฎค๋์ผ์ด์
์ด ๊ฐ๋ฅํ ๋ถ
[์ฐ๋์ฌํญ]
- ๊ธฐ์
๋ด ๋ฐ์ดํฐ ๊ฑฐ๋ฒ๋์ค ์ฒด๊ณ ์๋ฆฝ ๋๋ ๋ฐ์ดํฐ ์ค์ํ ํ๋ก์ ํธ ์ํ ๊ฒฝํ
- ๋ฉํ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ/๊ณ๋ณด/์ ์ฑ
์์คํ
์ด์ ๊ฒฝํ (์: Unity Catalog, DataHub, Hive Metastore ๋ฑ)
- ์๋น์ค ์ด์ ๋ฐ์ดํฐ๋ถํฐ AI ์ฐ๊ตฌยท๊ฐ๋ฐ ๋ฐ์ดํฐ(ํ์ต ๋ฐ์ดํฐ์
, ๋ฒค์น๋งํฌ, ๋ชจ๋ธ, ์ฌ์ฉ์๋ก๊ทธ ๋ฑ)๊น์ง ํญ๋์ ์ ํ์ ๋ฐ์ดํฐ๋ฅผ ๋ค๋ค๋ณธ ๊ฒฝํ
- LLM / Foundation Model ํ์ต ๋ฐ์ดํฐ ํ์ดํ๋ผ์ธ์ ๋ํ ์ดํด
- ๋ฐ์ดํฐ ๋ฒ์ ๊ด๋ฆฌ ๋ฐ ๋ ์ดํฌํ์ฐ์ค ๊ธฐ์ ๊ฒฝํ (์: LakeFS, Delta Lake, Apache Iceberg ๋ฑ)
- ๋๊ท๋ชจ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ํ๋ ์์ํฌ ํ์ฉ ๊ฒฝํ (์: Apache Spark, Trino, Flink ๋ฑ)
- IaC / GitOps ๊ธฐ๋ฐ ์ธํ๋ผ ๊ด๋ฆฌ ๊ฒฝํ (์: Helm, Terraform, ArgoCD ๋ฑ)
ย
ย
AI Data Engineer ยท LG AI Research