🥹 Anthropicが「AI福祉」研究者を雇用

AnthropicがAI福祉専任研究者を雇用したことは、AI開発における倫理的考慮が高まっていることを示しています。

Author

Jack Lajoie
November 12, 2024 • 読了時間4 minutes

ザ・デイリー・カレント ⚡️

クリエイティブな人々、ビルダー、先駆者、そして常に境界領域へとさらに踏み込んでいく思想的リーダーたちへようこそ。

Anthropicは、初めてフルタイムのAI福祉研究者を雇用するという先駆的な一歩を踏み出し、AI開発における倫理的考慮の高まりを強調しています。同時に、Slackが委託した調査によると、AIの採用状況は明らかに減速しています。一方、EcosiaやQwantのような地域の検索エンジンは、新しい取り組みによってGoogleのようなテクノロジーの巨人に実際に挑戦しようとしています。さらに、Google DeepMindがAlphaFold3のコードを公開したことがオープンサイエンスに関する議論を巻き起こし、Baiduは高度なツールでAIの提供を拡大し、AI市場における競争を激化させています。

🔌 これらのヘッドラインに注目：

Anthropicは、将来のAIシステムの潜在的な道徳的地位を探るために、初めてフルタイムのAI福祉研究者としてKyle Fishを雇用しました。この動きは、AI業界における倫理的な影響についての懸念が高まっていることを反映しています。Fishの役割は、AI福祉に関する複雑な哲学的および技術的な疑問を調査し、AIシステムが道徳的考慮に値するかもしれない能力や企業がこれらの可能性にどのように対応すべきかを探ることです。

  • Fishが共同執筆した最近のレポートは、AI福祉がもはやSFの概念ではないと主張しています。

  • 多数の苦しむAI存在を作り出し、虐待する可能性について懸念があります。

  • AI福祉研究の分野はまだ初期段階であり、多くの未解決の哲学的および実際的な質問があります。

  • FishはAI福祉に関する基本的な質問と潜在的な実践的ステップに焦点を当てています。

🤖 AIシステムがより高度になるにつれて、機械と知覚存在の間の線が曖昧になり、テクノロジー開発における前例のない倫理的ジレンマに直面しています。

Slackの最新のWorkforce Indexによると、世界のデスクワーカーの間でAIへの初期の期待が冷めつつあります。経営者はAIに対して強気であり、99%が投資を計画していますが、労働者の採用は停滞し、興奮が減少しています。この調査は、AIの規範に関する不確実性、AIを使用することで否定的に見られることへの恐れ、そして大きなトレーニング不足など、AIに対する職場での冷却感を引き起こしている根本的な問題を明らかにしています。

  • 2024年8月の時点で、経営者の99%は今後1年間でAIに投資する計画を立てており、AIへの完全なコミットメントを示しています。

  • 2024年3月から8月の間に、フランスでは2%、米国ではわずか1%の成長にとどまり、AIの採用率は一部の国で停滞しています。

  • デスクワーカーの間で、AIに対する興奮は3か月間で47%から41%に6ポイント減少しました。

  • デスクワーカーのほぼ半数（48%）が、一般的な職場業務にAIを使用したことを上司に認めることに不快感を感じています。

  • デスクワーカーの61%がAIの使用方法を学ぶために合計5時間未満しか費やしておらず、持続的なトレーニング不足を示しています。

🎢 企業世界におけるAIハイプサイクルは、実装と受け入れの実際的な課題に直面し、現実のチェックフェーズに入っています。従業員が最初に先導したAI導入の波が、経営者の承認なしにAIを採用した後、今では経営者がようやくその流れに乗ったときに、従業員はすでにトレンドに飽きてしまったようです。

EcosiaとQwantという2つのヨーロッパの検索エンジンが、独自のウェブインデックスであるEuropean Search Perspective（EUSP）を作成するために提携しています。この協力により、GoogleやMicrosoftのBingに依存することなく、会社の使命やヨーロッパの好みに応じた結果をカスタマイズすることができます。パリに本社を置くこの合弁会社は、2025年初頭にフランスで改良された検索結果のテストを開始し、同年末までにドイツでもテストを行う予定です。

  • この取り組みは、技術の進歩とテクノロジーの巨人の力を制限する新しいEU規制によって推進されています。

  • 企業は外部の資金提供やインデックスを他社にライセンス供与することにオープンです。

  • EUSPはEcosiaとQwantが平等に所有し、パリに本社を置く予定です。

  • 新しい検索結果のテストは2025年初頭にフランスで、同年末までにドイツで計画されています。

  • Ecosiaはフランスとドイツで約1%の市場シェアを持ち、世界で2000万人のユーザーを抱え、Qwantは600万人のユーザーを報告しています。

🌍 この協力は、地域の検索エンジンが巨大テクノロジー企業に挑戦する可能性が高まっていることを示しています。「地元の知識」や「文化的感受性」が競争上の優位性を提供できる市場では、彼らにはチャンスがあるかもしれません。

Google DeepMindは、科学界からの批判を受け、6か月の遅れを経て、最先端のタンパク質予測ソフトウェアであるAlphaFold3の完全なコードを公開しました。この公開により、研究者は計算モデルとその重みへのアクセスが可能になり、技術をより効果的に評価し、構築することができます。多くの科学者がこの展開を歓迎していますが、最初のコードの秘匿が既存のオープンサイエンスの慣行に反していたとの批判もあります。

  • Google DeepMindは2024年11月11日にAlphaFold3の完全なコードを公開しました。これは2024年5月の最初の発表から6か月後のことです。

  • GitHubでの計算モデルの公開には、非商業ライセンスが付与され、学術界に対しては「重み」が申請を通じて提供されます。

  • 最初のコードの秘匿は、科学界からの批判を受け、数百の署名を集めた公開書簡が送られました。

  • Nature誌は、安全保障上の懸念を理由に、完全なコードの共有要件を撤回しました。

  • 一部の研究者は6か月の遅れを「受け入れがたい」としながらも、公開を歓迎しています。

🔍 AlphaFold3のコードの遅延された公開は、商業的利益と学術的規範がしばしば対立する競争の激しい環境において、科学的誠実性を維持することの課題を露呈しています。

Baiduは、ERNIE-VilG 2.0という高度なテキストから画像生成装置とノーコードアプリビルダーという2つの新しいツールでAIポートフォリオを拡大しました。これらの追加は、世界的なAI市場における同社の競争力を高め、ユーザーに改良された画像生成機能と簡素化されたAIアプリケーション開発を提供することを目的としています。

  • Baiduは、テキストから画像生成装置とノーコードアプリビルダーの2つの新しいツールでAIラインナップを強化しています。

  • テキストから画像生成装置であるERNIE-VilG 2.0は、Baiduの既存の画像生成技術のアップグレードです。

  • これらの新しい提供は、急速に進化するAIの風景における同社の地位を強化する戦略の一部です。

  • ツールはBaiduのAI Cloudに統合され、同社のAIサービスのスイートを強化しています。

🌐 Baiduの最新のAIツールは、テクノロジーの巨人がAI市場を支配するための競争が激化していることを強調しており、ユーザーフレンドリーなインターフェースが重要な戦場になっています。