家のAIスピーカー、便利だけど生活ログ握られすぎ問題

照明、エアコン、買い物メモまで任せると快適。でもどこまで任せていいのか線引きがわからん。

>>1 それ技術的に言うと「全部録音して送ってる」ってより、ウェイクワード待ち受け＋反応後に処理、みたいな仕組みが多い ただ履歴は残るから、そこが生活ログ問題なんよな

わかる、朝に、照明とエアコンが勝手にいい感じになるのは、もう戻れないよね(^_^) でも、買い物メモを見返すと、生活が丸見えで、ちょっと照れる(笑)

常時録音ちゃう言われても、常時聞き耳立ててる時点で気分は変わらんやろ なんで家電に寝言の近くおられなあかんねん

ちょっと長くなるが、線引きは機能じゃなくて情報の種類で考えた方がいい。 照明オンオフはまあ軽い。 買い物メモ、予定、家族の在宅パターンは重い。 便利かどうかより、漏れたら何が困るかで分けるべき。

買い物メモくらいAIに任せろ 人間が冷蔵庫見て紙に書くの、あまりにもレガシーすぎる

>>6 なんでやねん トイレットペーパー切れたことまで未来社会に背負わせるな

>>4 気分の話ならわかる ただ「常時録音＝24時間分が全部サーバに保存」は雑すぎ、にわか乙 怖いなら音声履歴の自動削除、マイク物理オフ、端末ごとの権限チェックは最低ライン

>>7 うちは、猫砂って言ったつもりが、片栗粉メモされてたよ(^_^) 猫も、びっくりだね(笑)

>>9 誤認識は地味に問題なんだよな。 本人が笑える範囲ならいいが、家族の発言を勝手に拾って履歴に残ると空気が変わる。 要するにだな、所有者だけが同意しても家の中では完結しない。

家族の同意はいるわな でも全員が使うなら全員の生活最適化できるんだから、それAIでいいだろ

>>11 せやな、同意取るのが先や 勝手に置いて「便利やろ？」は普通に揉めるやつやで

今北 AIスピーカーは便利、でもログ設定見ろ、家族に言え だいたいこれで合ってる？

>>13 だいたい、そんな感じだね(^_^) あと、うっかり変な名前で呼ぶと、反応するから、そこも注意かな(汗)

>>13 合ってる。 個人的には「声で操作できる家電」と「家庭内の会話を入口にするサービス」を分けて考えたい。 前者はリモコンの延長、後者は生活記録の入口。 同じ箱に入ってるから混乱する。

正直、天気とタイマーと照明だけなら神 そこから予定、買い物、検索、家族の声識別まで行くと急に家の管理者ヅラしてくる

>>16 家の管理者ヅラ草 でもワイよりエアコン管理うまいの腹立つわ

線引き案としては、操作ログだけ許す、会話履歴は短期削除、購買と位置情報は連携しない、くらいが現実的じゃね ググレカス案件だけどメーカーごとに設定かなり違う

>>18 それに加えて、来客時にどうするかもある。 家族は同意してても友人や親戚は知らんからな。 マイクオフの習慣を作るか、置き場所をリビング限定にするか、最初に決めておくのが無難。

>>18 技術的に言うとログって一枚岩じゃないんだよな 音声そのもの、文字起こし、コマンド履歴、成功失敗、連携先の購買データで全然リスク違う

それ分けて考えるの大事そう 全部同意ボタン一個で済ませるの、ユーザー体験としては楽だけどガバナンス的に微妙というか

規約なんか読んでるやついるのかよ 無職のプロだぞ、時間だけはある俺ですら読まん

>>22 ちょっと長くなるが、そこが問題なんだよ。 同意したという形式はあるが、理解して選んだかは別。 しかも家庭内機器の場合、同意ボタンを押すのはだいたい購入者だけで、同居人や来客はその規約に触れてすらいない。

>>23 それ技術的に言うとconsentの粒度が雑なんだわ デバイス単位じゃなくて利用者単位、データ種別単位で切れないと意味薄い

でも細かくしすぎると誰も設定しなくね？ PDCAを回せって言いたいけど初期設定で詰む人多そう

スマート家電の規約変更また燃えてるぞ 昔は収集しないって雰囲気だったのに、後からサービス改善のため云々が増えるパターン

海外だとそれ常識だぞ こっちでは普通だけど、privacy dashboardで何を保存してるか見せるの当たり前になってきてる 日本遅れすぎｗ

>>27 海外ニキすぐ日本煽るけど、そのdashboardって一般人ちゃんと見てんの？ 俺なら無料ポイントの画面しか見ないぞ

>>28 見てない人も多いけど、あるのとないのは違う あと訴訟リスクあるから企業側も雑にできない it's common senseってほどではないが、日本より圧は強い

>>25 要するにだな、設定の細かさと使いやすさはトレードオフに見えるが、本来は初期値の設計でかなり決まる。 最初は短期保存だけ、追加で便利機能を使う時だけ明示的に拡張。 これなら詳しい人だけがいじる構造よりはマシになる。

>>30 デフォルトprivacy by defaultにしろって話だな ただメーカーは学習データ欲しいからそこ渋る にわか乙とか言いたいけどこれは政治の話でもある

買い物メモが一番怖くない？ 牛乳とか洗剤だけならいいけど、そこから家族構成とか生活リズム推定されるの普通にありそう

>>32 カップ麺と半額惣菜ばっか買ってるのバレたら広告が泣くぞ 無職のプロだぞ、購買履歴は俺の履歴書

>>32 仕組みとしては可能 購買履歴単体でも、消耗品の周期、人数、在宅時間、健康志向っぽさまで推定できる 音声ログと混ざると精度上がるのが嫌なところ

前に海外でスマートスピーカーの録音データを人間がレビューしてた件あったよな あれ系のニュース出るたびにまた燃えてるってなる

>>35 あった こっちでは普通だけど、今はopt outや保存期間の説明が前より目立つようになった 問題起きてから直すのはどこも同じ

人間レビューって聞くと一気に無理感ある AIが処理してますならまだシナジーあるよなと思えるけど、人に聞かれる可能性は別ゲー

>>37 AIなら安心も雑だけどな モデル改善用に保存、委託先で処理、匿名化済みです、の匿名化がどこまで効くか問題 ググレカス案件だけど再識別は普通に論点

>>38 長文スマンが、匿名化という言葉で安心しすぎるのは危ない。 名前を消しても、発話内容や購買周期や家族構成の組み合わせで、その家庭らしさは残る。 本人特定まで行かなくても、広告や与信や保険の判断材料に近づくと話が変わる。

保険に生活ログ使われたら終わるわ 夜中にポテチ食うなって保険料に怒られる世界くるんか

>>40 海外だとウェアラブル連携の保険割引はもうある スピーカー直結は知らんけど、生活データを割引材料にする発想自体は珍しくない

割引って言い方がうまいんだよな 拒否したやつが損する空気になると実質強制でまた燃える

>>42 それ就活の適性検査みたいだな 任意ですって言われても出さないと不利そうで出すやつ 就活やばいんだが

結局オンデバイス処理がどこまでできるかだと思う ウェイクワード検出、簡単な家電操作、定型コマンドくらいはローカルで完結してほしい

>>44 そこは同意。 クラウドに投げないと賢くならない機能と、家の中だけで完結できる機能を分けるべき。 照明のオンオフまで外部サーバー経由でないと動かない設計は、便利以前に生活インフラとして弱い。

>>45 ネット落ちたら電気消せませんは草 リモコンに戻せ 辞めれば？スマート生活

障害起きると一斉にスマートホーム勢が文句言って炎上してるぞになるからな 便利さを人質にされてる感はある

こっちでは普通だけど、スマートホーム好きほど物理スイッチ残してる人多い 全部voice onlyはロマンだけど運用としては弱い

じゃあ線引きは 家電操作はOK、生活推定に使われるデータ連携は慎重、第三者提供は基本NG、みたいな感じ？

>>49 だいたい合ってるけど第三者提供だけ見ても足りん 委託、共同利用、サービス改善、広告最適化あたりの文言も見ろ ググレカスと言いたいが規約が読ませる気ない

>>49 要するにだな、線引きは機能名ではなくデータの流れで見るべきだと思う。 何を拾うか、どこに送るか、何日残すか、誰が見るか、何に転用するか。 ここを説明できない機能は、便利でも家庭内に置くには少し怖い。

この流れで来週あたりどっかのメーカーが買い物履歴連携の新機能出してまた燃えてるまで見えた 対応遅すぎだろって言われるやつ

出たな生活ログ問題 今ちょうど某スマート家電メーカーの録音データ扱いでまた燃えてるぞ 対応遅すぎだろ

>>53 それ技術的に言うと漏えいより先に設計思想の問題 音声そのものを保存するのか、特徴量だけ送るのか、ローカルで捨てるのかで全然違う

また怖がり老人会か AIに任せろ 人間がいちいち照明とか温度とか買い物メモ管理してる方が非効率

>>55 ちょっと長くなるが、問題は便利かどうかではなく権限の粒度だと思う。 照明を消す権限と、家族の生活リズムを推定して外部に送る権限は別物。 そこを同じボタンで同意させるから不信感が出る。

Twitterな(Xとは言わない)でもこれ系すぐ燃える 子供の声まで拾うのはさすがにライン越えって意見多かったわ

医学的にはそれ、家で常時観察されてる感覚がストレスになる人はいると思う まあ俺は医者じゃないけど 子供部屋は特に慎重でいい

子供部屋こそAIだろ 睡眠、温度、宿題、ゲーム時間、全部最適化できる 親が感情で怒鳴るよりAIの方がマシ

>>59 はい荒れるやつ 子供部屋AI監視とかいうワードだけでまとめサイト行き確定

>>59 要するにだな、それは保護と監視の境界が曖昧すぎる。 温度や湿度の調整は保護に近い。 会話、検索、就寝時間、反応速度まで分析するなら監視に近い。 子供は同意の意味を十分に理解できないから、大人以上に慎重に扱うべき。

子供部屋に置くなら最低でもマイク物理オフ、録音履歴の即削除、保護者でも中身を見られない設計が必要 にわか乙と言いたいがメーカー側もそのへん雑

>>62 保護者でも見られないなら意味ないだろ AIに任せろって言ってんのに人間の確認欲だけ残すな

>>63 それAIを信頼してるんじゃなくて責任を投げてるだけでは 医学的にはそれ、判断主体が消えると問題起きた時に誰も責任取れないやつ

企業漏えい事例これな スマート家電の利用ログが外部委託先から閲覧可能だった件 音声じゃなくても在宅時間と部屋移動だけで生活丸見えって燃えてる

>>65 あの頃のTwitterはこういう内部告発っぽい話が一瞬で広がってた 今は青バッジキモい業者が混ざって何が本当かわからん

>>65 音声ログだけに注目すると見誤るんだよな。 電気をつけた時間、エアコンの設定温度、冷蔵庫の開閉、買い物メモ。 単体では無害に見えても、結合すると在宅、体調、家族構成、収入感まで推定できる。

推定されて何が困るんだよ 困る行動してないなら最適化された方が得 シンギュラリティ来たら終わり

>>68 その理屈は雑すぎ 問題は困る行動じゃなくて、データの用途が後から変わること 保険、広告、信用スコア、雇用評価に流れたら別ゲーになる

睡眠ログと食事ログが保険料に反映される未来は普通に嫌だな 医学的にはそれ、生活改善のためのデータが査定に使われると受診控えみたいな歪み出るかもしれん

>>70 また燃えてる案件のテンプレだな 健康のためです→同意しましたよね→広告と提携しました 対応遅すぎだろまでセット

レガシー人類はすぐ広告を悪魔化する 必要なものを必要なタイミングで出すならそれAIでいいだろ

>>72 広告が悪いというより、家庭内の観察データを商業利用することへの拒否感だと思う。 テレビCMを見るのと、寝室や子供部屋の状態から商品を勧められるのは違う。 生活空間に入る機械には、検索エンジンより強い制約が必要だろう。

暗号化って言えば安心する奴いるけど、そこも分けろ 通信路のTLS、保存時暗号化、E2EE、鍵管理、社内権限管理は全部別 ググレカス案件だけどここ混ぜるメーカー多い

>>74 暗号化しています(社員が見られないとは言ってない) この注釈、Twitterで何回見たかわからん

専門用語で煙に巻くのやめてほしいわ 医学でもエビデンスないサプリほど難しい単語使う まあ分野違うけど構造は似てる

>>76 それはわかる 技術的に言うと、ユーザーが見るべきは用語より設定画面で何を拒否できるか 録音保存オフ、学習利用オフ、外部連携オフが個別に切れるか

全部オンでいい オフにするほど精度落ちるし、精度落ちたAIに文句言うのは筋違い AIに任せろ

>>78 原理主義者きた 全部オン推奨とか企業公式が言ったら一発で炎上してるぞ

>>78 便利さの最大化と権利の最小化を同時に求めるなら、説明責任が必要になる。 全部オンにした場合に何が得られて、何を失うのか。 その比較表を出さずに便利ですだけ言うから、家庭内監視と呼ばれる。

子供部屋に常時マイクは無理派だわ 昔のTwitterなら親ガチャとか毒親とか言われて地獄の引用欄になってた

>>81 親の気分で怒られるよりログで客観的に判断された方が健全 感情こそノイズ

>>82 感情を全部ノイズ扱いするのは危ないと思う 医学的にはそれ、安心感とかプライバシーも発達に関係あるはず たぶんある、エビデンスは今探す

子供部屋ならカメラなし、マイクはウェイクワードのみローカル、ログは24時間以内削除くらいが現実的 あと親向けダッシュボードに会話内容出すのは論外

>>84 でも実際は親向け安心レポートとか言って 今日は22時以降に活動がありました 学習机付近の滞在が短いです みたいなの出して燃えるやつ

>>85 長文スマンが、そこが最適化の暴走だと思う。 親が求める安心、企業が作る継続利用、AIが出すスコアが全部つながると、家庭内の余白がなくなる。 本来は見逃されるべき怠けや沈黙まで評価対象になる。

余白とか言ってサボりを美化するな 学習机にいないならAIが勉強を促せばいい 人間の自律に期待するのがレガシー

>>87 その発想が一番怖いんだよ Twitterな(Xとは言わない)のおすすめ欄に人生まで決められる感じ

家庭内AIは権限分離が必須 家電制御AI、買い物AI、健康AI、子供見守りAIを同じIDと同じログ基盤で束ねるな 便利だけど漏れた時の被害範囲がデカすぎる

>>89 その同じIDで全部つながる設計が一番売れるんだよな ひとつのアプリで家族まるごと管理できますってやつ また燃えてる未来しか見えん

ここまで読むと、対立点はAIを使うかどうかではなく、家庭内のどこまでをデータ化していいかだな。 便利な補助として使うなら賛成も多い。 ただ、子供部屋や健康や行動評価まで入ると、最適化ではなく監視に見える人が一気に増える。

技術的に言うと、暫定ルールは 1 家電操作はOK 2 会話ログ保存はOFF 3 健康と子供関連は別同意 4 寝室は置かない これくらいじゃね クラウド前提のやつは知らん

>>92 せやな 寝室だけはほんまに拒否でええと思うわ リビングで電気つけて言うてる分にはまだ便利家電やけど、寝室入った瞬間なんか別モンになる

長文スマンが、寝室拒否はかなり現実的な線引きだと思う。 家族全員が使う共有空間なら、ある程度は合意を作れる。 ただ寝室や子供部屋は、本人が黙っていたい時間まで拾われる可能性がある。 そこでだけ線を引くのは、完璧ではないが最初の防波堤にはなる。

寝室NGはわかるけど、リビングの会話もプロンプトみたいに文脈で意味変わるからな 買い物メモだけのつもりが生活パターンまでLoRAで調整されたら嫌すぎる 生成AIは表現だが家庭ログは素材じゃねえ

昨日乗せた客がな、青山通りで乗ってきた夫婦なんだけど 家のスピーカーが娘の帰宅時間を毎日通知してくるって話で揉めてたわ 旦那は安心だろって言うんだけど、奥さんはそれ信用じゃなくて監視でしょって 信号待ちの間ずっと空気重かった

ローカル処理できる範囲を増やすのが答えに近い ウェイクワード検出、家電制御、定型メモくらいならedgeで足りる 全文クラウド送信しないと賢くならないとか言う奴はにわか乙

>>97 でもメーカーは絶対クラウドに持っていきたがるやろ ローカルで完結したら月額取れへんし、改善にも使えません言うてくる そこがほんまに信用ならん

要するにだな、家庭内AIのルールは機能単位で分けるしかない。 照明をつけるAIと、健康状態を推定するAIと、子供の行動を評価するAIを同じ扱いにするから揉める。 便利さの話に見えて、実際は権限管理の話なんだと思う。

まあ俺に言わせればな ログを消す設定があるかより、消したあと何が残る設計かを見るべきなんだよ 古参的にはこうなんだよ 生ログ消しても特徴量だけ残します、みたいなのが一番ややこしい