DeepSeek公式アカウントは5月19日、「モデル内の文字によって引き起こされる異常な応答に関する説明」を公開しました。最近、DeepSeekモデルでの会話中に「 」などの特殊文字を入力すると、モデルが予期しない内容を返す場合があり、一部のユーザーが「会話漏れ」を懸念しているというユーザーのフィードバックを確認しました。この問題に対応して、当社の技術チームは包括的な調査を行った結果、次のことを発見しました。
「 」などの文字を入力すると、異常なコンテンツが返されます。これは特殊文字によって引き起こされるモデル幻覚であり、セキュリティ上の問題やプライバシーの漏洩は伴いません。
将来的には、対象を絞ったトレーニングを通じて特殊文字を認識して処理するモデルの能力を強化し、関連する既知の問題を修正し、そのようなシナリオでのモデルのパフォーマンスを最適化する予定です。
DeepSeek は、ユーザー データのセキュリティとユーザー エクスペリエンスを常に重視しています。ご配慮とご指導に感謝いたします。ユーザーは、公式チャンネルを通じていつでも質問や提案をフィードバックしていただけます。
5 月 18 日、DeepSeek Web バージョンに機能的な脆弱性があると多くのユーザーが報告しました。 「>」文字を入力すると、特定の質問に対する回答が自動的に読み込まれます。
この点、記者が実際にテストしたところ、DeepSeekの「クイックモード」に入ると、深い思考とインテリジェント検索の2つの機能が搭載されているかどうかに関係なく、上記の文字を入力していればDeepSeekは直接回答を開始し、回答の内容は記者が入力した内容とは無関係であることがわかった。
レポーターがもう一度「今、どんな質問をしましたか?」と入力すると、 DeepSeek は質問を繰り返します。一部のユーザーは、これらの質問は他のユーザーによって提起された質問であると疑われると報告しました。
これに先立ち、DeepSeekは4月24日朝、大型モデルの新シリーズであるDeepSeek-V4のプレビュー版を正式にリリースし、同時にオープンソースを完成させ、公式ウェブサイト、アプリ、API呼び出しサービスをオープンし、100万語の超長文脈機能が包括的な段階に入ったことを示し、広く注目を集めた。