TL;DR

  • ML4Good는 AI 에이전트, 정렬, 모델 추론, 평가, 해석 가능성, AI 거버넌스 등을 다루는 8일 집중 기술 AI 안전 부트캠프임.
  • 강의와 실습뿐 아니라 펠로십, 진로 기회, AI 안전 스타트업 창업, 더 넓은 AI 안전 생태계에 관한 유용한 정보를 제공함.
  • 기술 배경이 탄탄한 참가자도 새로운 내용을 배우고 진로 정보를 얻을 수 있어 AI 안전에 관심이 있다면 지원을 권함.
  • 지원자는 지원서와 10~15분 인터뷰를 거치며, 선발 결과는 인터뷰 후 며칠 안에 안내됨.
  • 참가비와 숙박, 하루 세 끼 식사가 무료이며 교통비는 최대 180유로까지 환급 신청이 가능함.

소개

  • 프랑스 리옹 인근에서 열린 ML4Good 기술 AI 안전 부트캠프 경험을 지원·면접 과정부터 부트캠프 자체까지 간략히 정리함.

지원 절차

  • 공식 ML4Good 웹사이트에서 참여할 기수를 선택해 지원하며, ‘Find a Bootcamp’ 섹션에서 관련 정보를 확인함.
  • 지원서에는 프로그램에 지원하는 이유와 AI의 위험 및 이점에 대한 생각 등 여러 질문이 포함됨.
  • 지원서를 제출하면 사전 선발 결과를 기다리며, 다음 단계로 진출하면 인터뷰 날짜와 시간을 선택할 수 있는 일정표가 이메일로 전달됨.
  • 인터뷰는 AI가 아닌 사람과 진행하며, 인터뷰가 끝난 뒤 며칠 안에 결과를 받을 수 있음.

인터뷰 절차

  • 정확한 인터뷰 질문은 공개할 수 없으며, 면접은 약 10~15분 동안 진행됨.
  • 질문은 순서대로 다섯 개가 주어지고, 각 질문에 답할 시간은 약 2~3분임.
  • 합격 안내를 받으면 참여 확인 요청과 함께 알레르기나 식단 제한 등 음식 관련 일반 질문을 받음.
  • 선발되지 않더라도 낙담하지 말고 다음 기수에 지원할 것을 권함.

비용과 숙박

  • 부트캠프는 완전 무료이며 숙박과 하루 세 끼 식사를 제공함.
  • 교통비는 최대 180유로까지 환급을 신청할 수 있어, 여행 경비에 따라 비용 대부분을 지원받을 수 있음.

부트캠프 경험

  • AI 보안 및 안전 분야에서 일하는 박사과정 학생으로서 이미 분야에 관한 상당한 기술 지식을 갖춘 상태에서 참여함.
  • 다른 분야에서 AI 안전으로 전환하려는 완전한 초심자가 아니더라도, 기술 배경이 탄탄한 참가자는 새로운 내용을 배우고 AI 안전 분야의 기회에 관한 유용한 정보를 얻을 수 있음.
  • 부트캠프는 8일간 집중 일정으로 운영되며, 강의는 보통 오전 9시부터 오후 7시~7시 30분까지 이어짐.
  • 일정에는 짧은 휴식 여러 차례, 오후 1시부터 2시까지의 점심시간, 늦은 오후 약 30분의 휴식이 포함되며 마지막 저녁 강의 직후 저녁 식사가 제공됨.
  • 해당 기수의 일정은 이와 같았지만, 기수마다 달라질 수 있음.

강의

  • 강의 내용은 최신 연구 동향을 반영하며, CNN이나 GAN 학습에 시간을 쓰지 않음.
  • 기술 강의 주제는 AI 에이전트, 모델 사전 학습, RLHF·RLAIF·Constitutional AI 등의 정렬 기법, 해석 가능성, Chain-of-Thought(CoT)와 ReAct를 포함한 모델 추론, 평가, 여러 현대 모델의 기반 구조인 트랜스포머임.
  • Colab을 활용하는 코딩 세션에서는 AI 에이전트와 트랜스포머를 처음부터 구축하는 방법, CoT 등을 다룸.
  • 해당 주제에 자신이 있다면 코딩 실습을 건너뛸 수 있음. 트랜스포머 코딩 실습을 건너뛴 일부 참가자는 강사와 세 시간 동안 AI의 새롭게 떠오르는 위험과 완화 방안을 논의함.
  • AI 거버넌스 강의도 진행되며, 기술 AI 안전과 거버넌스를 완전히 분리된 분야로 다루지 않음.
  • 기술적 접근이 더 넓은 거버넌스 노력에 어떻게 기여할 수 있는지 연결해 설명하는 기술 AI 거버넌스 강의가 포함됨.
  • 강의를 듣기만 하는 형식에 그치지 않고, 강사 및 다른 참가자와 주제를 능동적으로 논의하는 세션도 여러 차례 마련됨.

진로 조언과 펠로십

  • 개인적으로 가장 중요하게 여긴 부분은 진로 관련 강의였으며, AI 안전 분야의 기회에 관심 있는 사람에게 매우 유용한 정보를 제공함.
  • 세션에서는 지원할 만한 AI 안전 펠로십과 지원 방법, 자체 자금 조달, 진로 전환, 비영리 또는 영리 AI 안전 스타트업 창업 등을 다룸.
  • SPAR 펠로십에 참여 중이며, 무급인 해당 펠로십 다음 단계로 향후 유급 펠로십을 고려하고 있음.
  • 펠로십에 관해 이미 상당히 알고 있었지만, 부트캠프에서 많은 새 정보를 얻었고 이용 가능한 기회와 지원 방법을 더 잘 이해하게 됨.

강사진

  • 강사진은 지식이 풍부하고 흥미로우며 다가가기 쉬운 편으로 소개됨.
  • 참가자는 궁금한 점을 거의 무엇이든 질문할 수 있으며, 강사진과 같은 시설을 이용해 분위기가 격식 없이 편안함.
  • 함께 식사하고 휴식 시간에 대화할 수 있으며 식사 중에도 질문할 수 있음.

마무리

  • 부트캠프에 관한 구체적인 질문은 LinkedIn을 통해 문의할 수 있다고 안내함.