원문 기사

https://news.yahoo.co.jp/articles/3d19d11346916d0ab126b3009f6ad0f0314ae9c3 

제목: G7, '책임감 있는 AI' 목표, 디지털 각료회의에서 '행동계획' 채택... 채팅 GPT 염두에 두고

군마현 다카사키시에서 이달 29, 30일 열리는 선진 7개국(G7) 디지털-기술 장관회의의 공동성명 초안이 18일 밝혀졌다. 인공지능(AI)을 둘러싸고 최근 개인정보 유출 문제 등을 감안해 '책임감 있는 AI' 실현을 내걸고 '행동계획'을 채택한다. 대화형 AI 서비스 '채팅 GPT'로 대표되는 생성 AI 등을 염두에 두고 G7이 협력해 안심하고 이용할 수 있는 환경을 조성한다는 방침을 확인한다. 가짜 정보 대책 등 신뢰할 수 있는 인터넷 활성화를 위한 노력도 추진한다. 

------------------------------------------------------------

西田亮介 

偽情報対策も、生成系AI対策も、開発する企業とサービスがやすやすと国境を越えがちなだけに、ルール形成においても国際的連携が重要。また権威主義国家と自由民主主義国家を比較したとき、後者の意思決定は遅れがちなので連携した対応確認も好ましい。他方で、現実には日本の偽情報対策の実質は安全保障文脈が後から始まり急速に検討が進む一方で、消費者保護など平時の対策が置き去りになっているアンバランスさも改めて想起したい。 

(허위정보 대책도, 생성형 AI 대책도, 개발하는 기업과 서비스가 국경을 넘나들기 쉽기 때문에 규칙 형성에 있어서도 국제적인 연계가 중요하다. 또한 권위주의 국가와 자유민주주의 국가를 비교했을 때 후자의 의사결정이 늦어지기 쉽기 때문에 연계된 대응 확인도 바람직하다. 한편, 현실적으로 일본의 허위정보 대책의 실체는 안보적 맥락이 뒤늦게 시작되어 빠르게 검토가 진행되는 한편, 소비자 보호 등 평시 대책이 뒷전으로 밀려나고 있는 불균형도 다시 한번 상기하고 싶다.)

tmy***** 

教育の場面では学習スピードが進むなどのメリットはあるものの、AIにはない新しい着想をどう評価するかなどデメリットも多い。 しかし、企業で導入する会社としない会社では業績に差が出ると思うので、大企業ほど導入する可能性が高いと思いますね。 しかし、個人情報の面と従業員がAIを使用することで個人の仕事の幅が広くなってしまい、膨大な仕事量の中から個人情報に抵触することがあった場合に責任を問われる面が今後出てくると思うので、仕事量が増える反面相当な個人情報流出事案がでてくる可能性があると思いますね。 そういう意味でも責任あるAIを進めて頂きたいですね。 

(교육 현장에서는 학습 속도가 빨라지는 등의 장점도 있지만, AI에 없는 새로운 발상을 어떻게 평가할 것인가 등 단점도 많아요. 하지만 기업에서 도입하는 회사와 도입하지 않는 회사에서는 성과에 차이가 있을 것이라 생각하기 때문에 대기업일수록 도입할 가능성이 높다고 생각합니다. 다만, 개인정보 측면과 직원들이 AI를 사용함으로써 개인의 업무 폭이 넓어지고, 방대한 업무량 중에서 개인정보에 저촉되는 일이 있을 경우 책임을 묻는 측면이 앞으로 나올 것 같아서, 업무량이 늘어나는 만큼 상당한 개인정보 유출 사건이 발생할 가능성도 있다고 생각해요. 그런 의미에서도 책임감 있는 AI를 진행했으면 좋겠어요.)

goo***** 

G7でもとりあげられるのは警戒しているからだと思う。一定の情報操作を考えているのではないか？たとえばGPTに天安門事件を聞くとその人権抑圧や虐〇行為を教えてくれる。かりに中国ではおそらく天安門事件は　わからないとか　一部の破壊勢力がやったテ〇行為と回答をよこすと思う。要はその時の権力者の都合の良いように回答を制限される可能性が高い。 

(G7에서도 거론되는 것은 경계하고 있기 때문인 것 같다. 일정한 정보 조작을 생각하고 있는 것 아닌가? 예를 들어 GPT에 천안문 사건을 물어보면 그 인권탄압과 학대 행위를 알려준다. 그런데 중국에서는 아마 천안문 사건은 모르겠다거나 일부 파괴세력이 저지른 테〇행위라고 대답할 것이다. 요컨대 당시 권력자의 입맛에 맞게 답변이 제한될 가능성이 높다.)

lpa***** 

責任あるＡＩって、ＡＩが責任取れるわけないじゃない。 ＡＩが出した答えだから仕方ないっていうための権威付けならやめてほしい。 結局、決める人が責任を取るしかない。 ＡＩが出した答えに対して誰も責任が持てないなら、ＡＩの出した結論に振り回されるべきじゃない。 百科事典的な使い方ならいいけど、他の機能はあまり精度を上げないほうがいいと思う。時々頓珍漢な答えを出すくらいがツールとしては丁度いい。 

(책임감 있는 AI는 AI가 책임질 수 있는 게 아니잖아. AI가 내놓은 답이니까 어쩔 수 없다는 식의 권위 부여는 그만했으면 좋겠다. 결국 결정하는 사람이 책임을 질 수밖에 없다. AI가 내린 답에 대해 아무도 책임질 수 없다면, AI가 내린 결론에 휘둘려서는 안 된다. 백과사전적인 용도로는 좋지만, 다른 기능은 너무 정확도를 높이지 않는 게 좋다고 생각한다. 가끔 엉뚱한 답을 내놓는 것 정도가 도구로서는 적당하다.)

law***** 

自由であるネットを支持し制限されたネットを非難する事は矛盾しないが、自由であるネットと信頼されるネットは矛盾するのではないだろうか。ネット社会以前より、たった一枚の写真が世の中を良き方向へも悪い方向へも変えた例はある。情報の扱いは、発信側よりもむしろ受けての教育や練度が重要であり、掌の上で気軽に誰でも受け取れる時代ならば尚更だろう。 

(자유로운 인터넷을 지지하고 제한된 인터넷을 비난하는 것은 모순되지 않지만, 자유로운 인터넷과 신뢰받는 인터넷은 모순되지 않을까. 인터넷 사회 이전부터 단 한 장의 사진이 세상을 좋은 방향으로도 나쁜 방향으로도 바꾼 사례는 있다. 정보를 다루는 것은 발신자보다는 수신자의 교육이나 숙련도가 중요하며, 누구나 손쉽게 손바닥 위에서 쉽게 받아볼 수 있는 시대라면 더더욱 그러하다.)

fuj3**** 

意外と対応が早いのは、国家レベルで危機感を感じているのかも知れませんね。 新しいものや、わからないことへの警戒心は群れを守るオスや経験豊富な大人の方が強いでしょうしね。 軍事技術や経済戦争に応用されでもしたら厄介ですし。 日本の場合、トップの老人会に理解は困難でしょうから、先進諸国の頭脳に頑張ってもらえるのは助かります。しかし、彼らが有利になるルールを作られるのは必至でしょう。 日本のお年寄りたちに頑張れなんて、とてもいえません。 

(의외로 대응이 빠른 것은 국가적 차원에서 위기감을 느끼고 있기 때문일지도 모르겠네요. 새로운 것, 모르는 것에 대한 경계심은 무리를 지키는 수컷이나 경험 많은 어른들이 더 강할 테니까요. 군사 기술이나 경제 전쟁에 적용되면 곤란하겠죠. 일본의 경우, 최고위층이 이해하기 어려울 것이기 때문에 선진국의 두뇌들이 노력해 주면 도움이 될 것입니다. 하지만 그들에게 유리한 룰을 만들게 되는 것은 필연적일 것입니다. 일본 노인들에게 힘내라는 말을 할 수 없을 것 같아요.)

zpp***** 

もう大体、質問の仕方によってはChatGPTがどんな回答をするか予想が付くようになってきたね。ちょっとでも一般論的な質問をするとたいがい無難な結論にまとめて来る。そしてそれは文章としてはよく練りあげられているけれど常識として広く一般に共有されている論考の範囲を超える事はない。「無難な結論」を提示されて納得してしまってはただAIのアルゴリズムに踊らされているだけ。詳細かつ深い論考を提示させ、「無難な結論」だけでまとめさせないためには質問の主旨と確度をよく磨き上げ文章を練り上げる必要がある。 逆に言えばそういう意味で人間の側の思考も鍛えられてゆくのかも。 

(이제 질문하는 방식에 따라 ChatGPT가 어떤 대답을 할지 어느 정도 예상할 수 있게 되었다. 조금이라도 일반론적인 질문을 하면 대부분 무난한 결론으로 정리해 온다. 그리고 그것은 문장으로는 잘 짜여져 있지만 상식적으로 널리 일반적으로 공유되는 논지의 범위를 벗어나지 않는다. '무난한 결론'을 제시받고 납득해버리면 그냥 AI의 알고리즘에 휘둘리는 것뿐이다. 상세하고 깊은 논의를 제시하게 하고, '무난한 결론'으로만 정리되지 않게 하기 위해서는 질문의 취지와 정확성을 잘 다듬고 문장을 잘 다듬을 필요가 있다. 역으로 말하면 그런 의미에서 인간 측의 사고도 단련되어 가는 것일지도 모른다.)

the***** 

他の人も言っているが責任のあるAIなんか存在しないしそれを期待するのであれば昔の世代の知識ライブラリーベースのなんちゃってAIで責任をライブラリー作成者に取らせるもの。ジェネレーティブの場合はAIを使う人間が責任を取るもの、責任を取れない者が使うべきではない。責任を取れない者はAIを使いこなせる者に生産性で負けて格差も生じるかもしれないが責任を取れないので有ればやむを得ない。AIを技術的に使いこなせるかでなくて常識の社会生活を理解して何処の馬の骨ともわからないAIの導き出した成果を責任もって使いこなせるかだと思う。 

(다른 사람들도 말하지만 책임감 있는 AI는 존재하지 않으며, 그것을 기대한다면 구세대 지식 라이브러리 기반의 엉터리 AI로 라이브러리 제작자가 책임을 지게 하는 것이다. 제너레이티브의 경우 AI를 사용하는 사람이 책임을 지는 것이지, 책임을 질 수 없는 사람이 사용해서는 안 된다. AI를 기술적으로 잘 다룰 수 있느냐가 아니라 상식적인 사회생활을 이해하고 어디서부터 어디로 튈지 모르는 AI가 도출한 결과물을 책임감 있게 다룰 수 있느냐가 중요하다고 생각한다.)

yas***** 

プログラム作ってて思うけど、機械は人間が指示や掲示した事以上の事はできないからAIの示す意見はあくまでも叩き台なんだよな。 人間が設定した目標に対して、AIが人間に寄り添う解答を必ず出してくれるかと言えばそんな事は無いし。 そういう意味では、AI利用に関する世界共通のルール作りが今後どうなっていくかは気になります。 

(프로그램을 만들면서 느끼는 건데, 기계는 인간이 지시하거나 게시한 것 이상을 할 수 없기 때문에 AI가 제시하는 의견은 어디까지나 참고용일 뿐이라는 거죠. 인간이 설정한 목표에 대해 AI가 반드시 인간에 가까운 해답을 내놓을 수 있겠느냐고 하면 그런 건 아니잖아요. 그런 의미에서 AI 활용에 대한 세계 공통의 룰 만들기가 앞으로 어떻게 될지 궁금하네요.)

fuk***** 

「責任あるＡＩ」ってただの言葉遊びで論理的には破綻していると思うが。 ＡＩも数ある道具の一つに過ぎないのだから「責任ある車」や「責任あるハサミ」と言わないのと同じで「責任あるＡＩ」というのはありえない。 Windows や Android に対しても「責任ある Windows」なんて言わない。 自動車事故で車に責任があるわけではなく運転手に責任があるように、ＡＩに責任があるわけではなく、使う人に責任があるだけだ。 どんな道具も使い方次第で善にも悪にもなる。「民主主義に基づく人間中心の信頼できるＡＩ」のような、わかったようなわからんような表現で「やってる感」を出すのをやめるところからスタートしてもらいたい。 

('책임감 있는 AI'는 말장난에 불과하고 논리적으로도 무리가 있다고 생각한다. AI도 수많은 도구 중 하나일 뿐인데 '책임감 있는 자동차'나 '책임감 있는 가위'라고 말하지 않는 것처럼 '책임감 있는 AI'라는 말은 있을 수 없다. 윈도우나 안드로이드에 대해서도 '책임감 있는 윈도우'라고 말하지 않는다. 자동차 사고에서 자동차에 책임이 있는 것이 아니라 운전자에게 책임이 있듯이, AI에 책임이 있는 것이 아니라 사용하는 사람에게 책임이 있을 뿐이다. 어떤 도구도 어떻게 사용하느냐에 따라 선이 되기도 하고 악이 되기도 한다. '민주주의에 기반한 인간 중심의 신뢰할 수 있는 AI'와 같은 알 듯 모를 듯 한 표현으로 '하는 느낌'을 주는 것부터 시작했으면 좋겠다.)

man***** 

「正しい」とは未来永劫に正しい事を意味しない。現時点で多数派によって正しいと信じられている、もしくは権威者によって正しいとされているというだけだ。 新たな発見等の変化があれば、正しさが変わることもあるし、多数派も母集団の取り方によって変化する。 民主主義だって、いつまで正しいかは分からない。 

('옳다'는 것은 영원히 옳은 것을 의미하지 않는다. 현재 시점에서 다수가 옳다고 믿거나 권위자에 의해 옳다고 여겨지는 것일 뿐이다. 새로운 발견 등의 변화가 있으면 옳음이 바뀔 수도 있고, 다수파도 모집단을 취하는 방식에 따라 달라진다. 민주주의도 언제까지 옳을지는 알 수 없다.)