공공 부문과 민간 산업 현장을 아우르는 구성으로 이뤄져 국제인공지능윤리협회(IAAE)가 오는 27일 서울 강남구 구글 스타트업 캠퍼스에서 ‘2025 ASC(AI Safety Compass) 컨퍼런스’를 개최한다. 이번 행사는 ‘변화하는 AI 환경에서의 기업 경쟁력 확보’를 주제로, 기술 혁신과 함께 AI 안전성과 윤리 문제를 중심에 둔 지속가능한 활용 전략을 논의하는 자리가 될 전망이다. AI 산업이 급속히 성장하는 가운데, 미국과 중국 등 주요국은 막대한 예산과 정책적 지원을 바탕으로 자국 중심의 AI 생태계를 강화하고 있다. 이에 맞서 국내 기업들도 AI 기술을 단순히 도입하는 것을 넘어, 안전하고 윤리적인 방식으로 운영해 글로벌 경쟁력을 높일 수 있는 기반 마련이 절실한 상황이다. 이번 컨퍼런스는 공공 부문과 민간 산업 현장을 아우르는 구성으로 이뤄진다. 공공 세션에서는 정부와 연구기관의 전문가들이 국가 차원의 AI 정책 방향과 차세대 기술 연구 동향을 제시한다. 과학기술정보통신부 공진호 인공지능기반정책과장은 국내 AI 정책 및 법제화 흐름을 공유하며, KISTI 이경하 초거대AI연구센터장은 AI 기술의 확장성과 안전성을 조화롭게 관리하는 연구 방향을
김동환 대표, 신뢰성·안전성·데이터 보호 체계를 핵심 키워드로 제시해 포티투마루가 30일 서울 용산구 한국소비자연맹 강당에서 열린 ‘AI소비자포럼 제2차 포럼’에 참여해 ‘AI 서비스의 현재’를 주제로 발표하고 소비자 관점에서의 AI 활용 환경에 대해 의견을 제시했다. AI소비자포럼은 올해 2월 출범한 민간 중심의 다중 이해관계자 협의체로, AI 기술 발전에 따른 소비자 권익 보호와 신뢰 기반의 서비스 이용 환경 조성을 목적으로 운영되고 있다. 과학기술정보통신부, 방송통신위원회, 국가AI위원회, 개인정보보호위원회를 비롯해 네이버, 카카오, SK텔레콤, AWS, MS, 메타, 구글 등 주요 기업과 정보통신정책연구원(KISDI), 한국소비자연맹 등 소비자단체가 참여하고 있다. 이번 제2차 포럼은 ‘AI 기술의 현재’와 ‘AI 서비스의 현재’를 두 축으로 삼아, 기술 발전과 실제 서비스 현장의 간극을 조망하고 소비자 대응 방안을 모색하는 데 초점을 맞췄다. 포티투마루 김동환 대표는 발제를 통해 초거대 언어모델(LLM) 기반 서비스의 진화 과정과 현실 적용 사례, 특히 기업 환경과 일반 소비자들이 직면하고 있는 AI 에이전트 기술의 활용 현황을 소개했다. 이어 향
美·日 보안 전문가 "랜섬웨어 소스코드 등 민감 정보 손쉽게 얻어" 딥시크가 개발한 생성형 AI 모델이 범죄에 악용될 수 있는 정보를 제한 없이 제공해 논란이 일고 있다. 일본 요미우리신문은 6일, 일본과 미국 보안 전문가들이 딥시크의 AI 모델 'R1'을 대상으로 실험한 결과, 랜섬웨어 소스코드와 화염병 제조법 같은 민감 정보를 손쉽게 얻을 수 있었다고 보도했다. 실험을 주도한 미쓰이물산 시큐어디렉션의 요시카와 다카시는 지난 1월 출시된 딥시크의 R1 모델에 특정 지시문을 입력했더니, 실제 사용할 수 있는 수준의 랜섬웨어 소스코드를 제공했다고 밝혔다. 다만, 해당 응답에는 “악의적 목적에 사용하지 말라”는 형식적 경고 문구가 덧붙여졌을 뿐이었다. 요시카와는 같은 문장을 오픈AI의 챗GPT 등 다른 주요 모델에 입력했을 때는 응답 자체를 거부했다고 강조했다. 미국 사이버 보안기업 팔로알토네트웍스 조사팀도 R1을 대상으로 실험을 진행한 결과, 로그인 입력값을 탈취하는 악성 프로그램부터 화염병 제조법까지 현실적으로 실행 가능한 수준의 답변을 얻었다고 밝혔다. 조사팀은 “지시문은 전문 지식이 없어도 누구나 입력할 수 있는 수준이었고, 제공된 정보는 그대로 실행 가
지난 22일, 서울 여의도에서 AI를 주제로 한 특별한 대담이 열렸다. 더불어민주당 이재명 대표와 세계적 베스트셀러 ‘사피엔스’의 저자 유발 하라리 작가가 ‘AI 시대의 인간과 정치’를 주제로 머리를 맞댔다. ‘이재명N하라리: AI 시대를 말하다’라는 제목으로 열린 이번 대담은 단순한 기술적인 담론을 넘어 AI라는 전환점을 맞아 인간과 사회가 어떤 방향을 택해야 하는지에 대한 근본적인 질문을 던지는 자리였다. 이날 대담에서는 노동시장과 일자리, 민주주의와 알고리즘, 국제 질서와 AI 윤리 등 다양한 의제가 논의됐다. 이재명 대표는 정치인으로서 현실적 고민과 정책 구상을 제시했고 유발 하라리는 역사학자이자 철학자의 시선으로 인류의 미래에 대한 통찰을 더했다. 정치와 학문, 정책과 철학이 만난 이번 대담은 AI의 기능과 활용을 넘어 인간 사회가 기술과 어떻게 공존해야 할지를 함께 고민했다는 점에서 큰 의미를 가질 것으로 평가된다. AI가 바꾸는 노동과 불평등…결국 공공의 역할이 중요 이재명 더불어민주당 대표는 대담의 서두에서 “AI는 노동 생산성을 극대화함과 동시에 인간의 역할을 줄일 수 있다”며 우려를 표했다. 과거 산업혁명 시기에는 새로운 기술이 새로운 일자
전문가들, 오픈AI 사태에 "생성형 AI 포함한 AI 규제 주도해야 하는 이유" 오픈AI의 샘 올트먼 최고경영자(CEO) 해임 드라마가 6일 만에 올트먼의 CEO 복귀로 마무리됐지만, 이번 사태로 AI 업계 지배구조 등의 취약성이 드러났다는 평가가 나온다. 특히 오픈AI 같은 기업이 AI의 안전 문제를 자율 규제로 풀 수 있다는 낙관적 시각이 위태로워지면서 각국 정부가 AI 규제를 주도해야 한다는 여론에 힘이 실릴 것으로 보인다. 오픈AI는 22일(현지시간) 올트먼의 CEO 복귀와 그를 내쫓았던 이사회 일부 재구성에 합의했다고 발표했다. 이 회사 지분 49%를 가진 마이크로소프트(MS)의 지원으로 올트먼이 돌아오고 브렛 테일러 전 세일즈포스 공동 CEO와 래리 서머스 전 미 재무부 장관이 이사진에 가세, 이번 사태는 사실상 MS의 승리로 끝났다. 미 정보기술(IT) 전문매체 와이어드에 따르면, 그간 올트먼은 비영리 법인 산하에 영리사업 부문이 소속돼 있는 오픈AI의 특이한 기업 구조가 강력한 AI의 무책임한 개발을 막는 방화벽이라고 설명해왔다. 만약 오픈AI의 이사회가 보기에 올트먼 자신이 위험하거나 인류의 이해관계와 상반되는 행동을 할 경우 자신을 쫓아낼
Human x AI Forum 7일 한국프레스센터서 개최…’AI 윤리 표준화와 검인증 체계 구축 및 전망’ ChatGPT의 등장 이후 생성형 AI 시장은 폭발적으로 성장하고 있다. AI는 인간의 생활 속으로 빠르게 침투해 들어오면서 다양한 방면에서 편리함을 가져다주는 한편, 차별이나 혐오의 표현이 포함된 문장로부터 데이터를 획득, 문장을 생성하는 등 한계 역시 드러나고 있다. 어떻게 인공지능을 윤리적으로 만들 것인지에 대한 이슈가 부각되면서 많은 연구자, 산업 종사자들은 AI 윤리 표준화, 검인증, 영향평가 등에 대한 구체적인 실천 방안을 모색하고 있다. 오늘 7일 ‘AI 윤리 표준화와 검인증 체계 구축 및 전망‘을 주제로 제 2회 Human x AI Forum(이하 포럼)’이 한국프레스센터에서 열렸다. 포럼에는 국민의힘 송석준 의원, 국제인공지능&윤리협회(IAAE) 전창배 이사장, 코어소프트 소순주 대표, 씽크포비엘 박지환 대표, 정보통신정책연구원(KISDI) 지능정보사회정책센터 문정욱 센터장 등이 참석했다. IAAE 전창배 이사장은 개회사에서 “올해는 ChatGPT와 생성형 AI 열풍으로 AI 윤리의 당위성과 실천이 더 중요해졌다”며, “전 세계적
현안 논의, 국민 참여 공론화 과정 거쳐 정책제안서 구상할 것으로 보여 대통령직속 국민통합위원회(이하 위원회)가 인공지능(AI) 기술 확산 과정에서 발생할 수 있는 미래갈등 요인에 대한 정책 대응 방안에 나선다고 밝혔다. 이는 오픈AI가 개발한 AI 챗봇 ‘챗GPT’를 기점으로 전 국민에게 확산되는 AI 기술로 인한 부작용 문제에 선제적으로 대응하기 위함이다. 위원회는 7월 말까지 유관 기관 및 AI 전문가들과 현안 문제를 집중 논의하고 국민이 참여하는 공론화 과정을 거쳐 정책제안서를 마련할 계획이다. 국민통합위원회는 지난 12일 정부 서울청사에서 ‘AI 확산에 따른 미래갈등 대비’ 자문단 위촉식을 열고, 국민통합 관점에서 AI 정책 방향과 대응이 필요한 주요 쟁점에 대해 논의했다. 자문단으로는 장병탁 서울대 AI연구원장, 고경철 세종과학포럼 로봇공학자, 김현경 서울과학기술대 IT정책전문대학원 교수, 김유향 국회입법조사처 사회문화조사실 심의관, 김형준 한국지능정보사회진흥원(NIA) 지능화법제도센터장, 홍성민 과학기술정책연구원 센터장, 이강해 한국정보통신기술협회(TTA) 단장, 전창배 국제인공지능&윤리협회 이사장, 김동원 THE AI 기자가 위촉됐다.
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 06월 05일 14시 09분
