Azure AI Foundry(3)-프로젝트와 허브

Azure AI Foundry를 공부할 때 꼭 알아야 할 또 하나의 핵심 개념이 바로 프로젝트(Project)와 허브(Hub)이다. 왜냐하면, 허브(Hub)와 프로젝트(Project)는 Azure AI Foundry에서 매우 중요한 개념이다.

Azure 서비스에서 AI 프로젝트를 진행하면서 이 두 가지 구성요소는 항상 사용하게 된다. 이번 노트는 프로젝트와 허브에 대해 정리해 본다.

1. 허브(Hub)

• 허브(Hub)
  • 기본적으로 컨테이너 역할. 그 안에 여러 개의 프로젝트가 들어 있는 구조
  • 여러 프로젝트를 아우르는 중앙 AI 거버넌스 및 관리 계층 역할을 함
  • 여러 프로젝트를 담고 있는 컨테이너이며, AI 자산을 공유하고 재사용할 수 있다.
• AI 자산: 자산들을 여러 팀이 공유하고 재사용할 수 있도록 해줌
  • 모델
  • 데이터셋
  • 프롬프트(Prompt)
• 허브의 장점:
  • 여러 AI 프로젝트를 운영하고 있는 조직에 적합
  • 프로젝트를 만들기 전에 먼저 허브를 생성해야 함
• 허브 → 프로젝트 순으로 생성
• 허브는 팀이 협업하는 환경이며, 다음 요소들을 공유할 수 있는 환경을 제공
  • 프로젝트 작업
  • 모델 엔드포인트
  • 컴퓨트 리소스
  • 데이터 연결
  • 보안 설정
  • 사용 거버넌스

2. 프로젝트(Project)

• 허브를 만든 뒤에는 그 안에서 프로젝트를 생성하게 됨
• 프로젝트는 AI 모델 및 워크플로우를 개발하고 관리하기 위해 설계된 공간
  • 어떤 모델을 코드에서 사용하고 싶다면, Azure AI Foundry를 통해서든, 모델을 사용하기 위해서는 항상 프로젝트를 통해 접근
  • Llama, DeepSea, 또는 Azure OpenAI 모델을 사용하려 해도 항상 프로젝트를 통해서만 사용할 수 있음
• 프로젝트는 실험(Experimental), 파인튜닝, 배포를 위한 작업 공간(Workspace)이며, AI 개발의 시작점
  • 모델을 사용하려면 반드시 프로젝트 단위를 사용하게 됨
  • Microsoft에서 제공하는 Project SDK도 이와 같은 구조를 따름
  • 프로젝트는 다양한 AI 서비스, 데이터 소스, 파이프라인과의 통합을 지원함.
  • Azure AI Search 같은 서비스를 사용하려면, 해당 기능을 프로젝트 내에서 사용할 수 있어야 함
• 프로젝트는 AI 개발 생애주기 전체를 커버함
  • 실험
  • 테스트
  • 파인튜닝
  • 프로덕션 전환
• 작은 시작에서부터 실제 운영까지의 모든 단계를 프로젝트를 통해 진행함
• 오케스트레이트(Orchestrate): 프로젝트에서 모델 커스터마이징에 필요한 구성 요소들을 그룹화하며, 워크플로우로 조정
• 분리(Isolate): 데이터와 접근 권한