にわかに生成AIづくわたくし。

 ソフトバンクの「Perplexity Pro 1年間無料」を、6月の申し込み期限ギリギリで使い始めました。使ってみると非常に便利で、手放せなくなったんです。

  • ChatGPT、Gemini、Claude、Grokなど、様々なAIエンジンが使える
  • なるべく新しい情報を探してくれる
  • 情報源のURLを提示してくれる

という3点が特に便利です。

これに関連して、仕事でも生成AIを使いたくなりました。しかし、それなりに秘密にしておかなければならない情報を扱うため、クラウドサービスを利用するわけにはいかず、ローカルで動作するLLMを探すことにしました。

LM Studioをインストールして幾つかのLLMを試した結果、僕が使っている2022年モデルMacBook Air M2（メモリ16GB、10コアGPU）でそれなりに動くのは、サイズが10GB未満程度のLLMです。

ちなみに、なるべくApple Siliconの性能を最大限に引き出してもらうためにGGUFよりもMLXを優先して選びました。

などが、快適〜我慢できるレベルで動作します。

比べてみて分かったことは、

  1. やはり大規模モデルは基本的に賢いです
  2. gemma 3 270mは容量も食わないし速いのですが、ファインチューニングにより何かに特化する前提の作りなので、故に一番遊べそうです
  3. qwen3はdeepseekと同じく中国製なので、ちょっと怖いのですが、割と日本語処理が自然で動作も軽い（中国系と思しき偽広告や偽メールがなくならないわけです）

ただ、容量と時間の許す限り複数のLLMに同じタスクを投げてみて、結果を見比べながら使っていくのが良さそうだと感じました。

このブログの人気の投稿

FMV Comfort Keyboard KB800（FMV-KB800T）を買ってみた（簡易レビュー的メモ）

 こんばんは、モバ（ @yubile ）です。 正直、正直なところ、PCのキーボードはタイプライターと見紛うほどのカシィンカシィンと鳴るメカニカルキーボードが好きです。が、昨今は自宅でも出先でも静かにやりたいことがとても多く、もはや時代の流れには抗えません。 そんなわけで半ば衝動買いしたのが、富士通の FMV Comfort Keyboard KB800 です。この記事を書いている今、Amazonには入荷しておらず、メーカーのオンラインショップでも品切れ中のようです。 ちなみに私は、近所のケーズデンキに1台残っていたのを運良く衝動買いできました（？）。直前に同じケーズデンキで Logicool K380s を買ったばかりだった（でもって、そちらはそちらでとても良かった）んですけどね……。 ファーストインプレッションとしては、 テンキーを含むフルキーボードとしてはコンパクトで良い キートップは小さめに感じるが小さすぎもしない絶妙な大きさ キーストロークは見た目より深いが軽いタッチでも反応する 総じてタイピングが気持ちいい Bluetoothに加えてUSBドングルも使えるので、有線キーボードが必要な部分をカバーできるのが便利 カラバリがあったら欲しい といったところ。今のところちょうどいいケースがなくてモバイルしづらいことを除けば、けっこう気に入っています。
続きを読む

iPlay 70 mini Ultra購入して良い感じだったんだけど……結局iPad Air 11インチ買っちゃった！

 こんにちは、モバ（ @yubile ）です。 欲しいと書いていた 、 ALLDOCUBE iPlay 70 mini Ultra （ Amazon 、 楽天 ）をゲットしました！ 結論からいえば、ぼくの求める「買いやすい価格、持ちやすいサイズ、それなりのゲーム向き性能」というポイントをしっかり満たしていたので満足度が高いです。 ぼくが遊ぶゲームはFGOやグラブル、ウマ娘、プリコネR、艦これ、デレステなどです。原神や鳴潮のような超ヘビー級ゲームではないけど、あまりスペックが低いとカクカクしてストレスがたまります。 片手で持ちやすいサイズながら、ゲームが割としっかり遊べるナイス端末、と感じました。
続きを読む

最近のパケット事情（または断捨離し損ねた通信契約の話）

こんにちは、モバ（ @yubile ）です。 かれこれ半年近く更新しなかったわけですが、今日もなんとなく生きています。 IIJmioを解約した のが昨年10月のこと。 その後ZenFone 7を衝動買いした結果、持ち歩くスマートフォンが現在4台です。 内訳はこんな感じになっています。 (1) iPhone XS Max（ソフトバンク：ウルトラギガモンスター＋）＝メイン (2) Zenfone 7（mineo：au回線 10GB通話付きプラン）＝サブ (3) OPPO A5 2020（楽天モバイル）＝モバイルルーター的用途 (4) Rakuten mini（DENT）＝Edy、nanaco、WAON等 Google Pixel 3aも使っていたのですが、5台はさすがに多いのでしばらくお休みしてもらうことにしました。Android 12がリリースされたら真っ先にアップデートして試そうかなと思います。 ……本来のイメージはiPhoneとRakuten miniの2台持ちぐらいで済ませるつもりだったんですが、どうしてこうなった。 あと、Zenfone 7が楽天モバイルに完全対応してくれてれば、(2)と(3)は統合できたんですよねえ。アップデートお願いします＞ASUSさま。 ちなみにRakuten miniに入れているDENTのeSIMは、いわゆる海外ローミング回線です。有効期間が365日と長い上に1GBが4.99ドルという、「とりあえず入れておくSIM」にピッタリのヤツです。ローミング先がドコモ回線なのでRakuten miniのロットに左右されますが、電子決済で通信が必要な場合に役立ちます……と言いたいのですが、問題もあります。いずれ別記事で。
続きを読む