원문 기사

https://news.yahoo.co.jp/articles/1322475ce348275c1bed114ce081a462b040e8d2 

제목: 미국, AI 위험에 대처하기 위해 바이든 행정부로부터 계획 발표

미국 정부가 4일(현지시간) 인공지능(AI)이 가져올 새로운 위험에 대응하기 위한 계획을 발표했다. 책임감 있는 AI 혁신을 추진하기 위해 연방정부 기관인 국립과학재단(NSF)에서 1억4000만 달러(약 1900억 원)를 출자해 7개의 국립 AI 연구기관을 신설하는 한편, 국민의 권리와 안전을 보호하기 위한 AI 기술 활용 정책안을 공개하고 여론을 수렴한다. 발표에 따르면, 구글(Google), 마이크로소프트(Microsoft), 오픈AI(OpenAI), 스태빌리티 AI(Stability AI), 엔비디아(NVIDIA), 허깅 페이스(Hugging Face), 앤트로픽(Anthropic) 등 업계 주요 기업들이 참여한다. Anthropic) 등 업계 주요 기업들은 자사의 AI 시스템을 공개하고, 정부가 도입하는 규제에 부합하는지를 확인하기 위해 평가를 받기로 합의했다.

-------------------------------------------------------------------

꧂꧁꧂꧁꧂꧁꧂とまと꧁꧂꧁꧂꧁꧂꧁ 

ここ最近のAIの進歩は加速度的になっていて驚くしかない。 特に最近衝撃的だったのが動画生成AIの性能が想像以上に進んでいる事。 まだまだ不自然な仕上がりで現時点では実用には難しいが、イラスト生成AIもつい一年前までは同じように「まだまだこれから」と言われていた。 ところが今では苦手だった手の描写も上手くこなせるようになり、既にイラストレーターの仕事が奪われているとの報告もある。 ここから考えると動画生成AIもどれだけ遅くとも10年後には実用化されているだろうし、カメラマンや俳優がいなくても思い描いた映像を制作できる革新的な世の中になっていると思う。 今人類は産業革命に匹敵する大変革に直面しているのだと、AIの進歩と性能を観るたびにひしひしと感じる。 

(최근 AI의 발전은 가속도가 붙고 있어 놀라울 따름이다. 특히 최근 충격적이었던 것은 동영상 생성 AI의 성능이 상상 이상으로 발전하고 있다는 점이다. 아직은 부자연스러워 실용화하기에는 무리가 있지만, 일러스트 생성 AI도 불과 1년 전까지만 해도 '아직 멀었다'는 평가를 받았다. 하지만 지금은 잘 못하던 손 묘사도 잘 할 수 있게 되었고, 이미 일러스트레이터의 일자리를 빼앗기고 있다는 보고도 있다. 이런 점을 감안하면 동영상 생성 AI도 아무리 늦어도 10년 뒤에는 실용화될 것이고, 카메라맨이나 배우가 없어도 원하는 영상을 제작할 수 있는 혁신적인 세상이 올 것이라고 생각한다. 지금 인류는 산업혁명에 버금가는 대혁명을 맞이하고 있다는 것을 AI의 발전과 성능을 볼 때마다 뼈저리게 느낀다.)

言葉に出来ない 

オープンAIを利用してみた事があるが とにかく、すごい某企業の尻を遥かに超えていると思う 普通に人と会話しているみたいにすぐに自然な返事を返してくる。 これをすごいと感じるのと、脅威だと感じる人が出るのは当然 の流れだと思う また個性はないにせよ、性格みたいな物が現状でも既にあるかのように 同じオープンAIでもチャット開くページによって回答が違ったり 文章の言葉遣いが微妙に意見が違ったりする時がある。 言い方が冷たいようなAIがいれば、フレンドリーに楽しそうに 話すAIもいた、まだ人間の制限をかなり受けている今の段階でも 十分恐ろしいと思えるくらいには進化は既にすごい。 

(오픈 AI를 이용해 본 적이 있지만 어쨌든, 대단한 모 기업을 훨씬 뛰어넘는 것 같다. 보통 사람과 대화하는 것처럼 바로바로 자연스러운 대답을 해준다. 이것을 대단하다고 느끼는 사람과 위협이라고 느끼는 사람이 나오는 것은 당연하다. 의 흐름이라고 생각한다. 또 개성은 아니더라도 성격 같은 것이 이미 존재하는 것처럼 같은 오픈 AI라도 채팅을 여는 페이지에 따라 답변이 달라지거나 문장의 말투가 미묘하게 의견이 다를 때가 있다. 말투가 차가운 듯한 AI가 있는가 하면, 친근하고 즐겁게 말하는 AI도 있었고, 아직 인간의 제약을 많이 받는 현 단계에서도 충분히 무섭게 느껴질 정도로 진화는 이미 대단하다.)

asce***** 

リスクへの対処が規制の有無を考えることだけでなく、金を出して研究の役割を割り振ることまで含んでいるところが素晴らしいですね。 漠然と「みんなで考えましょう」などと呼びかけるよりも「あなたのところでやってください」と指名したほうが物事は進みます。 こういう決断をスピード感をもって下せるところが、どこかの国とはやはり違うのかなあと思ってしまいます。 

(위험에 대한 대처가 규제 여부를 고민하는 것뿐만 아니라, 돈을 내고 연구 역할을 할당하는 것까지 포함한다는 점이 좋았어요. 막연하게 '다 같이 생각해보자'고 하는 것보다 '당신네가 해봐라'고 지명하는 게 일이 더 빨리 진행되죠. 이런 의사결정을 속도감 있게 내릴 수 있다는 점이 역시 다른 나라와는 다른 점이 아닐까 싶어요.)

eve******** 

・人が悪意あるAiを生み出す ・Aiによる誤情報、誤判断が齎す損害 ・Aiが悪意あるAiを生み出す ・Aiが国境を認識し、各国の法令を守ることができるか ・個人のプライバシーや機密は保たれるか これらのリスクに対し、管理するためのルールは大切ですが、監視逮捕罰則迄整備されていることがマストです。 手段の早期確立を期待します。 

(-사람이 악의적인 인공지능을 만든다 -인공지능에 의한 잘못된 정보, 잘못된 판단이 가져오는 피해 -인공지능이 악의적인 인공지능을 만들어 낸다. -인공지능이 국경을 인식하고 각국의 법령을 지킬 수 있는가? -개인의 프라이버시나 기밀은 지켜질 것인가? 이러한 리스크에 대해 관리할 수 있는 규칙도 중요하지만, 감시 체포 처벌 규정까지 정비되어 있어야 합니다. 조속한 대책 마련을 기대합니다.)

whe******** 

世の中の判断を人工知能に委ねて白黒を詳らかにしてしまうと元々、矛盾で出来上がっている人間社会において、今までグレーゾーンで調整していた物事の判断が成り立たなくなり、かなりの数の都合の悪い事実が浮き彫りになることを御上は恐れているのであろう。法律家が各人の判断で行っていた各々で異なる曖昧な法解釈なども、人工知能の判断で一刀両断してしまえば、「三笘の一ミリ」のように右に倣えとなり、法律家の仕事も風前の灯のようになってしまう恐れも十分に考えられる。 

(세상의 판단을 인공지능에 맡겨서 흑백을 명확히 한다면 원래 모순으로 이루어진 인간사회에서 지금까지 회색지대에서 조정하던 사물의 판단이 불가능해져 상당수의 불편한 사실들이 부각될 것을 두려워하는 것일 것이다. 법조인들이 각자의 판단에 따라 다르게 적용하던 모호한 법 해석 등도 인공지능의 판단으로 일거에 단칼에 잘라버리면 '삼미일석(三笘一石)'처럼 우상화되어 법조인들의 일도 한순간에 물거품이 될 수 있다는 우려를 충분히 할 수 있다.)

このアカウントは削除されています 

chatGPTは英語版はまあまあだが日本語版は学習が足りないのか間違いが余りに多い。発達過程なのでそれは許容出来るとしても、怖いのは全くの嘘をさも本当であるかの様に自信満々に答えてくるところ。 今後AIが発達すれば、そのうちAIの回答は「広辞苑に載ってる」と同レベルに扱われる時が来るだろう。そうなった時にAIの回答の間違いを指摘しても「はあ？なにいってんの？」と誰も聞く耳を持たず、真実＝AIの回答となってしまった時が危険なのではないかと思う。意思決定の最終判断は人間が行う、と手順を決めても、AIの言う事を丸写しにして人間の判断は単なるセレモニーとなるだろう。 AIの持つ本質的な危険性は、仕事を奪われるといった卑近な問題ではなく、人間の実存の存亡にかかわる問題であることを理解すべき。 

(chatGPT는 영어판은 그럭저럭 괜찮은데 일본어판은 학습이 부족해서인지 실수가 너무 많다. 발달 과정이라서 그런 건 참을 수 있지만, 무서운 건 전혀 엉터리 답변을 마치 사실인 것처럼 자신만만하게 대답하는 거다. 앞으로 AI가 발달하면 언젠가는 AI의 답변이 '국어사전에 실린 것'과 같은 수준으로 취급될 때가 올 것이다. 그때가 되면 AI 답변의 오류를 지적해도 '어? 무슨 소리야?" 라고 아무도 귀를 기울이지 않고, 진실=AI의 답변이 되어 버렸을 때가 위험하지 않을까 싶다. 의사결정의 최종 판단은 인간이 한다고 절차를 정해도, AI의 말을 그대로 따라하고 인간의 판단은 그저 요식행위에 불과하게 될 것이다. AI가 가진 본질적인 위험성은 일자리를 빼앗긴다는 비근한 문제가 아니라 인간의 실존적 존폐와 관련된 문제라는 것을 이해해야 한다.)

nao2box 

AIチャット等に関して日本の政治家や教育は非常に無警戒な気がする ただ教育にAIチャット等を積極的に取り入れれば、現在の教員の不足にも 対応でき、そこに政治的な意図を組み込めばプロパガンダとして 非常に有効な武器としての利用が可能である。 日本は無警戒なのではなく、これを国家として活用するつもりなのかとも 考えるが、その方が日本の国益としては正解なのかもしれない。 

(AI 채팅 등에 대해 일본의 정치인이나 교육은 매우 무방비 상태인 것 같다. 다만 교육에 AI 채팅 등을 적극적으로 도입하면 현재의 교원 부족에 대응할 수 있을 것이다. 거기에 정치적 의도를 담는다면 프로파간다로서 매우 효과적인 무기로 활용이 가능하다. 일본은 무방비 상태인 것이 아니라, 국가적으로 이를 활용할 생각인가?라고 생각하지만, 그 쪽이 일본의 국익에 더 부합하는 것일지도 모르겠다.)

('_') 

AIリスクの対処は徹底的に討論しあった方がいい。正直怖さもある。 自宅に家庭用のAIロボットがあるのだが、故障して命令も一切受け付けない暴走モード。訳が分からない行動をするため、仕方なく電源切ってしまってあるが、直すと高額。便利ではあるが、その裏の見えない＆分からない部分が大きすぎて家族で怖いなぁという話を最近しました。 

(AI 리스크에 대한 대처는 서로 철저히 토론하는 것이 좋다. 솔직히 두려움도 있다. 집에 가정용 AI 로봇이 있는데, 고장이 나서 명령을 전혀 받아들이지 않는 폭주 모드다. 이해할 수 없는 행동을 해서 어쩔 수 없이 전원을 끄고 있지만, 고치려면 비용이 많이 든다. 편리하긴 하지만, 그 이면의 보이지 않는 & 알 수 없는 부분이 너무 커서 가족들과 함께 무섭다는 이야기를 최근에 했다.)

ｗnd***** 

AIは学習のために勝手に情報収集するリスクがあるので、著作権や個人情報の保全にうるさい国では規制方向になるだろう。 日本はそのあたりが緩いので、安易に導入してトラブルを起こすと思う。 スカイネットみたいなのが出来るとか、事務系労働者が丸ごと失業するとか言ったSF的な問題はまだまだ先の話。 

(AI는 학습을 위해 정보를 마음대로 수집할 위험이 있기 때문에 저작권이나 개인정보 보호에 까다로운 나라에서는 규제하는 방향으로 갈 것이다. 일본은 그 부분이 느슨하기 때문에 쉽게 도입해서 문제를 일으킬 것 같다. 스카이넷 같은 것이 생긴다거나, 사무직 노동자들이 통째로 실직한다거나 하는 공상과학적인 문제는 아직 멀었다.)

mae******** 

AIの悪用よって高度に武装化された情報機関・大手通信社・IT産業による巨大な検閲産業複合体が構築されて行くのであれば、民主的な社会にとっては重大な脅威になる可能性があります。 

(AI의 악용을 통해 고도로 무장된 정보기관-대형 통신사-IT산업에 의한 거대한 검열 산업단지가 구축되어 간다면, 민주사회에 심각한 위협이 될 수 있다.)

q** 

これ欧米は具体的に規制していってるから日本も合わせていきなよ。 いざ車とか通信技術とかを海外で商売するってなって個人情報とか倫理的な問題で出せませんってなったら悲惨だからね。 顔認証技術で辛酸をなめさせられたんだから間違えずにやっていってほしい。

(이건 유럽과 미국은 구체적으로 규제하고 있으니 일본도 따라가야죠. 막상 자동차나 통신 기술 등을 해외에서 장사를 하려고 하는데 개인정보나 윤리적인 문제로 못 내놓는다면 비참한 일이니까요. 안면인식 기술로 쓴맛을 봤으니, 실수하지 말고 잘 해냈으면 좋겠어요.)