AI 윤리학자

아이콘
빌더 아이콘
아이콘
클립보드 아이콘
아이콘
퍼즐 아이콘
건축자
주최자
문제 해결사
기술
스포트라이트사실교육취업뉴스 피드 착륙

스포트라이트

비슷한 제목

AI 윤리 전문가, AI 윤리 컨설턴트, AI 윤리 책임자, AI 윤리 표준 분석가, AI 정책 및 윤리 고문, AI 거버넌스 전문가, AI 책임 개발 관리자, AI 윤리적 의사 결정 컨설턴트, AI 윤리 및 규정 준수 책임자, AI 윤리 프레임워크 개발자

작업 설명

인간은 결함이 있고 편향된 상반된 감정의 묶음입니다. 우리는 항상 잘못된 결정을 내리고 그 과정에서 종종 자신이나 다른 사람에게 상처를 주기도 합니다. 그렇다면 사람들이 우리처럼 생각하고 행동하는 인공 지능 프로그램을 만들려고 하면 어떻게 될까요? 

AI는 어린아이와 같아서 좋은 것이든, 나쁜 것이든, 추한 것이든 우리가 소통하는 모든 것을 흡수합니다. AI 모델에 입력하는 데이터의 대부분은 아니더라도 상당 부분에는 인간의 의견, 선호도, 편견이 담겨 있습니다. 하지만 우리는 AI의 결과물, 즉 응답이 객관적이고 논리적이며 편견이 없기를 기대합니다. 

우리는 AI가 어떻게든 우리보다 더 나아지기를 바랍니다. 그게 어떻게 가능할까요? 인공지능은 어린아이와 달리 진정한 지각 능력이 없습니다. 인공지능은 (아직은) 스스로 생각하거나 "잘못된" 행동을 할 때 이를 인식할 수 없습니다. 예를 들어, Microsoft의 Bing AI는 불량 "사람들을 모욕하고, 거짓말을 하고, 심지어 감정적으로 사람들을 조종"하기 시작했습니다.

이러한 문제는 점점 더 널리 퍼지고 있지만, AI 윤리 전문가라는 전문가 집단에 의해 해결되고 있습니다. As 딜로이트 는 "AI 윤리 전문가의 주요 책임은 AI 시스템의 설계, 개발 및 배포에 윤리적, 사회적, 정치적 관점을 추가하여 AI에 대한 공학적 접근 방식을 개선하는 것입니다."라고 설명합니다. 다른 주요 책임으로는 윤리적 AI 관행에 대한 조언, 잘못된 행동으로 인한 의도하지 않은 결과로부터 보호, AI 관련 결정 및 행동에 대한 책임 보장 등이 있습니다."

경력의 보람있는 측면
  • 사람들에게 더 나은 서비스를 제공하기 위한 AI 시스템 개선 지원 
  • 다양한 방식으로 삶을 개선할 수 있는 잠재력을 지닌 혁신적 산업에서 일하고 있습니다.
  • 매력적인 급여와 현재 강력한 직업 전망
중간 급여
$121,841
인사이드 스쿱
직무 책임

근무 일정

AI 윤리 담당자는 풀타임으로 근무하며, 목표와 기간에 따라 초과 근무가 필요할 수 있습니다. 업무는 주로 실내에서 수행하지만 가끔 출장이 필요할 수도 있습니다. 

일반적인 의무

  • 책임 있는 AI(RAI) 사례 및 도구 생성, 평가 및 구현
  • RAI와 관련된 조직의 준비 상태 평가
  • 팀과 협력하여 AI 모델 개발 시 윤리적 고려 사항을 통합하세요.
  • 사용 사례 및 시스템에 대한 윤리 분석 수행 
  • 편견, 개인정보 보호, 자율성 등 다양한 윤리적 문제를 분석합니다.
  • 학술 연구 수행 및 연구 결과를 요약한 논문 작성 
  • AI 개발 및 배포를 위한 윤리적 프레임워크 개발
  • 정책 입안자 및 이해관계자에게 윤리적 영향에 대한 지침 및 교육 제공
  • 표준 및 모범 사례 개발 지원
  • AI 모델이 확립된 윤리적 원칙과 가치에 따라 작동하도록 보장합니다.

추가 책임

  • RAI 프로젝트에 대한 상담
  • 교육 자료 작성 
  • 여러 부서로 구성된 팀과 협력하여 문제 해결
  • 절차에 대한 철저한 문서화 유지
  • 업계 발전 및 트렌드에 대한 최신 정보 확인
직업에 필요한 기술

소프트 스킬

  • 적응성 
  • 분석
  • 합작
  • 의사소통 기술
  • 창조성
  • 비판적 사고
  • 디테일 지향
  • 징계
  • 공감
  • 윤리
  • 독립의
  • 무결성
  • 조직적
  • 조직
  • 환자
  • 프레젠테이션 기술 
  • 문제 해결
  • 건전한 판단 
  • 팀워크
  • 시간 관리 
  • 작문 능력

기술 능력

  • 머신러닝 알고리즘, 자연어 처리, 컴퓨터 비전 등 AI 기술에 대한 지식
  • 데이터 분석 방법 및 프로그램
  • 코딩에 대한 일반적인 지식(예: Python 또는 R)
  • 데이터 개인정보 보호법 및 규정 숙지
  • 사이버 보안 원칙
  • 인간 중심 디자인 원칙
  • AI 시스템 위험 평가  
다양한 유형의 조직
  • 개인 비즈니스 기업
  • AI 연구 기업 
  • 대학
기대와 희생

AI 윤리 전문가의 업무 범위는 매우 광범위할 수 있습니다. 윤리 프레임워크와 가이드라인을 만들고, AI 모델이 윤리적인 방식으로 작동하도록 철저하고 객관적인 평가를 수행하는 일을 담당합니다. 여기에는 다양한 분야의 협력이 필요하며 때로는 의견 충돌이나 갈등이 발생하기도 합니다. 

웨스트 런던 대학교의 폴라 보딩턴 박사의 말처럼 노트에서 언급했듯이 AI 윤리는 "우리의 윤리적 결정이 옳은지 계속 질문할 것을 요구합니다." AI 윤리학자는 편향적이거나 차별적인 AI 모델 행동과 같이 윤리적 위험이라고 생각하는 것을 식별하면서 청렴성을 유지하고 확고한 입장을 견지해야 합니다. 또한 정책 입안자와 이해관계자가 듣고 싶지 않을 수도 있는 말을 정직하게 해야 합니다.

현재 동향

ChatGPT와 구글의 바드(Bard)와 같은 인공지능은 최근 인상적인 능력으로 큰 반향을 일으켰습니다. 실제로 많은 기술 리더들은 이제 인공지능의 발전 속도가 너무 대중과 기업을 보호할 충분한 안전장치 없이 너무 빠르게 발전하고 있다고 경고하고 있습니다.

예를 들어, 인공 지능 프로그램의 저작물을 누가 '소유'하는지에 대한 저작권 관련 문제가 있습니다. 또한 인공지능이 실수로 보호되는 개인 데이터를 공개하는 등 우발적인 민감한 정보 유출에 대해서도 인공지능 윤리학자들은 잠을 이루지 못합니다. 

많은 직업 분야가 위험에 처해 있습니다 많은 직업 분야가 위협받고 있지만, 이는 제기되는 많은 우려 중 하나에 불과합니다. Bing의 AI가 '강박적인 스토커'가 되는 것과 같은 기괴한 AI 행동에 대한 우려도 타당합니다. "강박적인 스토커" 모드에 들어가는 것과 같은 기이한 행동에 대한 우려도 있습니다. 이러한 유해한 콘텐츠는 빙산의 일각에 불과하며, AI로 인해 잘못될 수 있는 문제는 무궁무진합니다. AI를 인류에 대한 실존적 위협으로 간주하는 불안한 종말론자들은 적지 않습니다, 라 스카이넷 처럼 AI를 인류의 실존적 위협으로 보는 불안한 종말론자들이 많습니다!

이 직업에 종사하는 사람들은 어렸을 때 어떤 종류의 일을 즐겼습니까?

인공지능 윤리학자들은 어렸을 때부터 기술에 관심이 많았을 것입니다. 수학, 컴퓨터 코딩, 프로그래밍 언어에 관심을 가졌거나 심지어 해킹. 동시에 분석적인 문제 해결이나 철학, 사회 문제 또는 공공 정책에 관한 독서를 즐겼을 수도 있습니다.

팀워크는 이 직업 분야에서 중요한 부분이지만, AI 윤리학자는 의견 충돌이 있을 때 기꺼이 유일한 반대 목소리를 내야 할 때도 있습니다. AI의 윤리적 행동을 보장하는 것이 그들의 임무입니다. 옳은 일을 옹호하는 이러한 능력은 어린 시절의 경험을 통해 발달했을 수 있습니다.   

교육 및 훈련 필요

필요한 교육

  • AI 윤리 전문가가 되려면 대학 학위가 필요하지만, 직무 자격 요건은 다양합니다. 모든 AI 윤리 전문가 직무에 적용되는 특정 학위나 학위 수준(예: 학사, 석사, 박사)은 없습니다.
  • 인기 있는 학위 옵션은 철학, 컴퓨터 과학, 법학, 심리학 및 사회 과학입니다.
  • 고급 학위를 소지하는 것도 도움이 될 수 있지만, 폭넓고 관련성이 높은 교육 배경을 갖추는 것도 중요합니다.
    • 예를 들어, 고용주는 컴퓨터 공학 학사(AI에 중점을 둔)와 철학 석사(응용윤리 또는 도덕철학 전공)를 가진 지원자를 원할 수 있습니다.
  • 또한 고용주는 AI 개발, 정책 결정 및 연구와 관련된 실무 경험을 갖춘 지원자를 찾습니다. 자연어 처리, 머신 러닝, 대규모 언어 모델에 대한 경험도 원할 수 있습니다. 
  • 일반적인 코스 주제는 다음과 같습니다:
    • AI와 정책 
    • AI와 사회 
    • AI 윤리 및 철학
    • 인간과 AI의 상호작용
    • AI의 법적 문제 
  • 학생들은 다음과 같은 프로그래밍 언어도 배울 수 있습니다. 파이썬 과 같은 프로그래밍 언어를 혼자서 또는 수업을 통해 배울 수도 있습니다.
  • 클래스 센트럴 에서는 다양한 무료 AI 윤리 온라인 강좌에 대한 자세한 정보를 제공합니다.
  • 또한 다음과 같은 Coursera의 과정 및 인증 제공을 확인하십시오. 인공 지능: 개요 전문 분야

딜로이트 는 필요한 모든 자격을 갖춘 후보자를 찾는 데 어려움이 있다고 지적합니다. "이 모든 분야에서 신뢰할 수 있는 경험과 지식을 갖춘 한 사람을 찾는다는 것은 사실상 불가능합니다. 대신 기업은 AI 윤리에 대한 팀 접근 방식을 취하여 다양한 전문 전문가의 인사이트를 원활하게 조율하고 통합하는 방법을 배움으로써 필요한 다분야 역량과 경험을 확보해야 합니다."

대학에서 찾아야 할 것들
  • 먼저 전공하고 싶은 분야를 결정하세요. 철학과 컴퓨터 공학이 인기 있는 옵션입니다.
  • 학교의 AI 윤리 관련 강좌를 살펴보세요.
  • AI 윤리 직무에 가장 적합한 교육을 맞춤화할 수 있는 이중 또는 복합 학위 프로그램(학사 및 석사 과정을 함께 이수)을 고려하세요. 
  • 프로그램 졸업생의 취업 통계를 확인하세요.
  • 수업료, 할인 및 지역 장학금 기회 비용을 고려하십시오 (연방 지원 이외에)
  • 캠퍼스 내 프로그램, 온라인 프로그램 또는 하이브리드 프로그램에 등록할지 결정할 때 자신의 일정과 유연성을 고려하세요! 
고등학교와 대학에서해야 할 일
  • 컴퓨터 과학, 프로그래밍, 영어, 작문, 토론에 등록하세요, 수사학, 철학, 비즈니스 법률, 사회 과학, 공공 정책 수업에 등록하세요.
  • 팀워크, 프로젝트 관리, 문제 해결 및 갈등 해결 능력을 키울 수 있는 방법을 찾아보세요.
  • 다음에서 온라인 AI 관련 강좌를 수강하세요. Coursera, Udemy, Microsoft, DeepLearning.AI및 기타 사이트
  • NLP, ML, LLM 및/또는 프로그래밍과 관련된 아르바이트를 통해 실제 경험을 쌓으세요.
  • 이력서 작성을 시작하고 업무 경험을 배우고 쌓으면서 이력서에 추가하세요. 
  • 채용 공고를 미리 검토하여 평균 요구 사항이 무엇인지 확인하세요. AI 윤리 전문가 직무는 모두 동일한 교육 요건을 갖추지 않을 수 있습니다.
  • 정보 제공 인터뷰 요청 정보 제공 인터뷰 정보 인터뷰를 요청하세요. 그들의 교육 경로와 그들이 다르게 할 수 있었던 일에 대해 물어보세요.
  • 향후 취업 추천인이 될 수 있는 연락처 목록(이메일 주소 또는 전화번호 포함)을 작성하세요. 
  • 현재 AI 윤리 문제에 대한 책과 기사를 읽고 동영상을 시청하세요.
  • 온라인 포럼 토론 및 토론에 참여하세요. 인맥을 쌓고 사회적 자본 사회적 자본을 구축하세요.
  • 전문 단체에 참여하여 배우고, 공유하고, 친구를 사귀고, 네트워크를 확장하세요. 가입을 고려할 수 있는 단체로는 다음과 같은 것들이 있습니다: 
일반적인 로드맵
AI 윤리주의자 로드맵
1차 직장에 입지를 잡는 방법
  • AI 윤리에 중점을 둔 컴퓨터 과학 또는 철학과 같은 관련 학위를 이수하세요.
  • 지원하기 전에 NLP, AI, LLM 등에 대한 실무 경험을 최대한 많이 쌓으세요.
  • 대학 프로그램에서 관련 수업을 충분히 제공하지 않았다면, AI 윤리와 관련된 임시 강좌를 수강하여 이력서를 강화하세요.
  • 다음과 같은 채용 포털을 확인하세요. Indeed, 심플리 하이어드, Glassdoor, AI-Jobs.net및 AI 구인 게시판
  • 채용 공고에 기재된 교육 및 경력 요건을 주의 깊게 살펴보고 이력서에 재사용할 키워드를 메모해 두세요. 키워드에는 다음이 포함될 수 있습니다: 
    • AI 감사
    • AI 기술
    • 충돌 해결
    • 비판적 사고
    • 부서 간 협업
    • 데이터 개인정보 보호 및 보안
    • 의사 결정
    • 새로운 기술
    • 윤리 분석 
    • 윤리 프레임워크 개발
    • 문제 해결
    • 프로젝트 관리
    • 규정 준수
    • 연구 및 평가
    • 위험 평가 
    • 투명성 및 책임성
  • 온라인 확인 AI 윤리 전문가 이력서 템플릿 을 확인하고 잠재적인 면접 질문을 검토하세요.
  • 이력서 작성, 모의 면접, 성공적인 면접을 위한 옷차림, 취업 박람회 찾기 등의 도움을 받으려면 학교의 커리어 센터에 문의하세요. 
  • 현직 AI 윤리 전문가에게 구직 팁을 물어보세요!
  • 커리어 시작에 대한 조언을 얻으려면 지도 교수, 교수 및 강사와 상담하세요.
  • 인맥에 구직 사실을 알리세요! 대부분의 일자리는 여전히 지인을 통해 찾을 수 있으므로 사회적 자본을 활용하세요! 
  • 일자리가 있는 곳으로 재배치하세요. Per 버사 네트워크에 따르면 AI를 가장 많이 고용하는 상위 주는 다음과 같습니다: 캘리포니아, 텍사스, 뉴욕, 워싱턴, 버지니아, 매사추세츠 주입니다.
  • 입사 지원서에 개인 추천인으로 등록할 수 있도록 허락 요청하기
  • LinkedIn에서 프로필을 만들고 AI 윤리에 관한 글을 작성하세요!
사다리를 오르는 법
  • 적절한 AI 모델 학습의 중요성과 문제가 발생했을 때 비즈니스에 미치는 영향에 대해 이해합니다. Google의 모회사 알파벳 은 Bard 챗봇이 출시되자마자 하룻밤 사이에 시장 가치에서 1,000억 달러의 손실을 입었고 오답을 제공했습니다. 한편, Bing은 이상한 분신과도 같은 분신 "시드니"라는 이름의
  • 일관성과 정확성을 보장하기 위해 절차를 따르고 신중하게 문서화하세요.
  • 고용주의 요구에 더 잘 부응하기 위해 어떤 기술을 향상시킬 수 있는지 고용주에게 문의하세요. 고급 학위부터 자격증 또는 몇 가지 추가 과정까지 무엇이든 될 수 있습니다.
  • 높은 도덕적 가치, 성실성, 비즈니스 통찰력을 보여주세요.
  • 동료와 효과적으로 협업하되 동료의 압력에 굴복하지 마세요. 문제 해결에만 집중하세요.
  • 새로운 윤리학자를 철저히 교육하되 그들의 관점에도 귀를 기울이세요. 이 분야에는 주관적인 요소가 많으므로 열린 마음을 유지하세요(결국 이 분야는 철학에 뿌리를 두고 있습니다!).
  • 전문 기관과 지속적으로 교류하고 혁신에 대한 최신 정보를 확인하세요. AI는 빠르게 진화하고 있으며 전 세계의 팀들이 한계를 뛰어넘기 위해 노력하고 있습니다.
  • 오늘의 문제에만 집중하지 마세요. 성장하거나 잠재적인 문제 발생할 수 있는 문제를 예측하고 우발 상황에 대비하세요!

먼 이야기일지 모르지만 여전히 유효한 윤리적 관심사 중 하나는 AI가 계속 진화하는 과정에서 인간이 AI를 어떻게 대해야 할 것인가 하는 것입니다. AI가 결국 자기 인식의 단계에 도달할까요? 그렇다면 그에 걸맞게 대우할 것인가, 아니면 단순히 지각이 있는 피조물이 아닌 프로그램으로만 활용할 것인가? 

공상과학 작가들은 오랫동안 이러한 질문에 집착해 왔습니다. 아이작 아시모프의 아이, 로봇 소설부터 스타워즈의 차별적 대우 에 이르기까지, 인공지능 생명체에 대한 전망은 종종 암울한 것으로 묘사됩니다. 스타트렉: 넥스트 제너레이션은 이 윤리적 경계에 대해 다음과 같은 에피소드에서 자세히 탐구했습니다. "인간의 척도" 우주선의 선장 피카드가 "증명해야 했던 데이터 데이터[자각 안드로이드]가 연방 법률에 따라 법적으로 권리와 자유를 가진 지각 있는 존재임을..."이라고 증명해야 했습니다.

권장 도구/리소스

웹사이트

 

책

계획 B

AI 윤리 전문가가 되기 위한 길은 대부분의 직업처럼 명확하지 않습니다. 그리고 AI 기술이 계속 발전함에 따라 상황은 더 많이 바뀔 수 있습니다. 기술 관련 직업을 원하지만 몇 가지 대안을 고려하고 싶다면 아래 옵션을 확인해 보세요! 

  • AI 프롬프트 엔지니어
  • 빅 데이터 엔지니어
  • 비즈니스 인텔리전스 개발자
  • 컴퓨터 하드웨어 엔지니어
  • 컴퓨터 프로그래머
  • 컴퓨터 시스템 분석가
  • 데이터베이스 설계자
  • 데이터 과학자
  • 정보 보안 분석가
  • 수학자
  • 머신 러닝 엔지니어
  • 로봇 공학 엔지니어
  • 소프트웨어 엔지니어
  • 소프트웨어 아키텍트
  • 웹 개발자

뉴스 피드

주요 채용 정보

온라인 과정 및 도구