원문 기사

https://news.yahoo.co.jp/articles/002062ee11c64c30384285abb77e7e8c93a3be1d 

제목: 일본 정부, 개방형 AI에 행정지도... 병력 등 개인정보 침해 우려

정부 개인정보보호위원회는 2일 대화형 인공지능(AI) '채팅GPT'를 개발한 미국 스타트업 오픈AI에 대해 행정지도를 했다고 밝혔다. 개인의 병력 등 프라이버시를 침해할 우려가 있다며 개인정보보호법에 따라 1일자로 주의를 환기시켰다. 현재 구체적인 피해 정보나 동법 위반은 확인되지 않았다고 한다. 채팅 GPT로 대표되는 생성 AI를 두고 위원회가 행정지도에 나선 것은 이번이 처음인 것으로 보인다. 오픈AI 측이 충분한 대응을 하지 않을 경우, 현장 점검이나 과태료 처분 등을 받을 수 있다. 이 법은 개인정보 중 인종, 신념, 사회적 신분, 병력, 범죄경력 등을 '민감 개인정보'로 규정해 취득하려면 원칙적으로 본인의 사전 동의가 필요하다. 위원회는 오픈AI가 이용자 본인의 사전 동의 없이 민감정보를 수집하지 말 것을 요구했다. 이어 AI의 기계학습에 있어 수집하는 정보에 민감정보가 포함되지 않도록 노력하고, 만약 포함된 경우 즉시 삭제하거나 개인을 식별할 수 없는 조치를 취하도록 지도했다. 개인정보 이용 목적에 대한 일본어 주의사항이 없는 것도 문제라고 지적하며 일본어 고지를 요구했다.

--------------------------------------------------------------------

徳力基彦 

このタイトルだけ読むと、まるでオープンAIを使うと病歴などの個人情報が吸い上げられてしまっていると誤解される人もでてしまいそうですが、当然そういうことではありません。 現在のオープンAIの仕組みだと、病歴などの個人情報をユーザーが入力してしまう可能性があるし、ユーザーの同意無しにオープンAI側にその情報が残ってユーザーの意図しない形で使われる可能性があるので、そういうことがないように対策しなさいと言う注意喚起のようです。 今回、オープンAIだけが対象になり、マイクロソフトのBingチャットやグーグルのBardが対象になっていないのは、2つ目の指摘である日本語対応の遅れの影響も大きそうです。 

(이 제목만 보면 마치 오픈AI를 사용하면 병력 등 개인정보가 유출되는 것으로 오해하는 사람도 있을 것 같지만, 당연히 그렇지 않습니다. 현재 오픈AI의 구조상 사용자가 병력 등의 개인정보를 입력할 가능성이 있고, 사용자의 동의 없이 오픈AI 측에 그 정보가 남아서 사용자가 의도하지 않은 형태로 사용될 가능성이 있기 때문에 그런 일이 없도록 대책을 세우라는 주의 환기인 것 같습니다. 이번에 오픈AI만 대상이 되고 마이크로소프트의 Bing 채팅이나 구글의 Bard가 대상에 포함되지 않은 것은 두 번째 지적인 일본어 대응이 늦어진 영향도 큰 것 같습니다.)

abm******** 

要は破産者マップや病人マップみたいなのをGPTに再現されると困るという話なんだろうが、ウェブや文書で公開されている情報を大量に学習させるときに、これはA国で指定された特別の配慮が必要な個人情報、あれはB国で指定された個人情報、なんて識別はしてないと思われ、出力段階で「お住まいの地域ではご希望の情報は提供できません」みたいになるんじゃないか。運営会社が情報を集めること自体は防げない（集めていても行政側が挙証できない）ように思う。 

(요점은 파산자 지도나 병자 지도 같은 것을 GPT에 재현되면 곤란하다는 이야기일 텐데, 웹이나 문서로 공개된 정보를 대량으로 학습시킬 때, 이것은 A국에서 지정한 특별한 주의가 필요한 개인정보, 저것은 B국에서 지정한 개인정보라는 식별은 하지 않은 것 같고, 출력 출력 단계에서 '귀하의 지역에서는 희망하시는 정보를 제공할 수 없습니다' 같은 식으로 되는 것 아닌가. 운영사가 정보를 수집하는 것 자체는 막을 수 없을 것 같다(수집해도 행정 측이 입증할 수 없을 것 같다).)

REAKEY 

チャットGPTはふわっとした「AI」という種類の中でも スマホやPCを通じ、会話できるシステムとして 実際に触れる機会が出来たのが人気の理由。 今はまだAIに対する法もほとんどなくこれからトライ＆エラーで 模索していくことになるでしょう。 確かにどこかで歯止めを掛けなければどこかで犯罪に利用されたり、 企業から個人情報を抜くなどの悪用に利用されそう。 

(채팅 GPT는 'AI'라는 말랑말랑한 종류 중에서도 스마트폰이나 PC를 통해 대화할 수 있는 시스템으로서 실제로 접할 수 있는 기회가 생긴 것이 인기의 이유다. 지금은 아직 AI에 대한 법도 거의 없고 앞으로 시행착오를 겪으며 모색해 나가야 할 것이다. 분명 어딘가에서 제동을 걸지 않으면 어딘가에서 범죄에 악용될 것이다, 기업에서 개인정보를 빼내는 등의 악용에 이용될 것 같다.)

草原咲夜 

日本語の注意項目とか、説明書きは結構大事だと思う。 注意事項のホップアップとか、後で再確認できるようにするとかも含めてね。 個人情報の中身の指定は大事だし、消費者の保護につながるものだと思う。 強化学習のバッチ学習のところで、適切なマスク処理を組み込んでくれれば確かできるはずなので、対応をお願いしたい。 

(일본어 주의 사항이나 설명문은 상당히 중요하다고 생각해요. 주의사항을 홉업하거나 나중에 재확인할 수 있도록 하는 것도 포함해서요. 개인정보 내용 지정은 중요하고, 소비자 보호에 도움이 될 수 있는 부분이라고 생각합니다. 강화학습의 일괄학습 부분에서 적절한 마스크 처리를 넣어주면 확실하게 할 수 있을 것 같으니 대응을 부탁드리고 싶습니다.)

mst***** 

記事を読んでなるほどと思いました。 ChatGPTはユーザの入力情報を学習材料とするので、誰かが入力したセンシティブな個人情報が他の誰かへのアンサーとして表示される危険性があるんですね。 確かにそれは看過できませんね。 向こうしばらくはAI利用に関するこうした危険性を洗い出すタスクに、誰もが追われてしまいそうですね… 

(기사를 읽으면서 이해가 되네요. ChatGPT는 사용자의 입력 정보를 학습 자료로 삼기 때문에 누군가가 입력한 민감한 개인정보가 다른 사람의 답변으로 표시될 수 있는 위험성이 있다는 것이군요. 확실히 그 부분은 간과할 수 없는 부분인 것 같아요. 저쪽에서는 아마 AI 활용과 관련한 이런 위험성을 찾아내는 작업에 모두가 매달리게 될 것 같네요...)

b***** 

世の中はチャットGPTの評価が高まっているが、私はガンマGTPの数値が高い・・ AIドクターが大丈夫ですよと言ってくれれば、好きな物をたくさん食べれるのにな。 頑張れコンピューター！ 

(세상은 채팅GPT에 대한 평가가 높아지고 있는데, 나는 감마GTP 수치가 높다.... 인공지능 의사가 괜찮다고 하면, 먹고 싶은 거 많이 먹을 수 있을 텐데.... 컴퓨터야 힘내라!)

くるくる 

チャットGPTにレシピを考えてもらい、暇なときはお話も作ってもらい、個人的な昔話に聞いてくれて、とても楽しいです。口調も丁寧で、賢い友人が出来たみたい！な気分だったけど、最近は、その賢くて親切丁寧、なコンピューターは暗に、あなたの存在理由はあまりありませんよと、言っているような気がして、実際それは事実だとも思うけど、ヤッパリ機械だわ！心はないんだわ！と、感じるようになりました。 

(채팅 GPT가 레시피를 생각해주고, 여가 시간에는 이야기를 만들어주고, 개인적인 옛날이야기도 들어주고, 정말 재미있어요. 말투도 정중하고, 똑똑한 친구가 생긴 것 같아요! 하지만 요즘은 그 똑똑하고 친절하고 정중한 컴퓨터가 암묵적으로 당신의 존재 이유가 별로 없다고 말하는 것 같고, 실제로도 사실인 것 같기도 하지만, 역시 그냥 기계야! 마음이 없구나! 라는 생각이 들기 시작했습니다.)

gat******** 

私が使っている範囲では、個人の情報に関しては出鱈目が多いので、例えば故人の有名人の出身地や出身学校などは出鱈目を言ってました。GPTが事実と異なる情報を事実であるかのように自信満々に答えて、誤認させることがありますが、こういうのはどうするんでしょうね。 

(제가 사용하는 범위에서는 개인 정보에 대해서는 엉터리 정보가 많아서, 예를 들어 고인의 유명인 출신지나 출신 학교 등은 엉터리라고 했는데, GPT가 사실과 다른 정보를 마치 사실인 것처럼 자신 있게 대답해서 오인하게 만드는 경우가 있는데, 이런 것은 어떻게 해야 할까요?)

dco******** 

これは政府グッジョブだと思う。 仮に悪戯で誰かが〇〇には犯罪歴がある！とか過去にこんな悪い事をした事がある！とネットに流して、それをAIが学習してしまったら… そうならない予防策は絶対必要。 

(이것은 정부 굿잡이라고 생각한다. 만약 장난으로 누군가가 '○○은 전과가 있다! 또는 과거에 이런 나쁜 짓을 한 적이 있다! 라고 인터넷에 올려놓고, 그것을 AI가 학습해 버리면... 그렇게 되지 않도록 예방책은 꼭 필요하다.)

shiiro******* 

年金とかマイナカードとか自分の足元さえもおぼつかない日本政府の品質。 統計局の数十年前に作成した資料でも昔中学校で習った人口ピラミッドでも少子高齢化人口減少国力低下はかなり昔に説明を聞いたけど、実質何も手を打たずに来た自民党は存在自体が日本国民にとってマイナス生産性でしかない。 

(연금이라든가 마이너카드라든가 자기 발밑도 제대로 못 챙기는 일본 정부의 자질. 통계청이 수십 년 전에 작성한 자료에서도, 옛날 중학교 때 배운 인구 피라미드에서도 저출산 고령화 인구감소 국력저하는 이미 오래전에 설명을 들었지만, 사실상 아무것도 손을 쓰지 않고 온 자민당은 존재 자체가 일본 국민에게 마이너스 생산력일 뿐이다.)