↑GPTだGPTだ、GTPは昔仕事で関わったプロトコルだと何度も思ったのにやっぱり間違えた( ;∀;)
人工無能とチャットして爆笑していたアラフォーの皆様御機嫌如何でしょうか。時代が変わってもやるこたぁ一緒ですね!
タイトルは
qiita.com
こちらを真似て作ってみました。
食わせるdataはラノベの杜 - DB検索の2021年のtsvのタイトル列だけとって、正規表現で置換できるエディタ(わいは秀丸)で開いて「\n」→「<|endoftext|>\n」に置換。
適当な名前で保存。UTF-8 BOMなし 改行コードLF。
Google Colabにアクセスしてノートを新規作成
<追記>
大事なこと忘れてた!! ランタイムのタイプの変更でGPUにしないとくっそ重い!!
</追記>
↓を貼り付けて実行。
# gpt2-japaneseのインストール
!git clone https://github.com/tanreinama/gpt2-japanese
%cd gpt2-japanese
!pip uninstall tensorflow -y
!pip install -r requirements.txt
コードってところをクリック
↓を貼り付けて実行。
# smallモデルのダウンロード
!wget https://www.nama.ne.jp/models/gpt2ja-small.tar.bz2
!tar xvfj gpt2ja-small.tar.bz2
testってフォルダを作って(図は違うけど気にしないでw)そこに食わせるdataをアップロードする
コードってところをクリック&↓を貼り付けて実行。
# データセットの作成
!git clone https://github.com/tanreinama/Japanese-BPEEncoder.git
!python ./Japanese-BPEEncoder/encode_bpe.py --src_dir test --dst_file finetune
コードってところをクリック&↓を貼り付けて実行。
#ファインチューニング
!python run_finetune.py --base_model gpt2ja-small --dataset finetune.npz --run_name gpr2ja-finetune_run1-small
謎のカウントが1000超えるくらいまでひたすら待つ
1000で謎のセーブが入る。セーブしたってメッセージが出たら右クリックして中断する。
コードってところをクリック&↓を貼り付けて実行。
#modelにfine tuningしたモデルを指定し、num_generateで生成数を指定します !python gpt2-generate.py --model checkpoint/gpr2ja-finetune_run1-small --num_generate 10 --output_file "title.txt"
出力結果
そのまま行く 2
========最強魔法戦士は異世界で幸せを見つけます! 6 ~現代知識チートで異世界生活~
========僕たちの冒険はまずじまり 3
========その昔、この世界に転移してきた少年が魔王になっていたとかなんとか……! 俺は彼女を救いに世界を支配しに来ていた少年と語る! ~最強の敵を世界が滅ぼせるまで~
========世界征服 2
========好きなだけ鍛えたらいいことあるよ。俺の幼馴染」
========
========
僕が彼女になる方法。 7
========転生の成り行き
========死の遺言 1
9個しか出とらん(笑)
ワイのブログdataから学習させて・・・
↓かなりそれっぽい出力になるが意味は不明
このお返事にはかなり無理があるかもしれませんが、ブログを運営してくれてる方がいたら、私の行動や行動について是非ご意見をお聞かせくださると嬉しいです。
========
・・・いや、私はもっと自分が好きだ(ってより嫌になった)んでね!!
========・・・
========
」
========でまとめ的に書きこんでたのにーとか書いてないけどどうせ直るのかーと思いつつ、まぁどうせ直らないと思ってたらそのまま書いてたwwww ってなったw
========私は「この商品を贈る人は皆頭を下げるから自分の頭を下げることは何もできない」のでお兄さんにも頭下げてません(´;ω;`)
========なんか私って
========この度、iPad Air 2018とMicrosoftのキャンペーンに応募しました。
========私が住んでいるところは
========それは良い。
長文にしてみると・・・頭が痛くなる文章にwwwww マルセイwwww
========
そうやって書いていることが、なんなのかがよくわからん。わからないので書いて見ます。その上で考えると、何もわからんのは当たり前。(だから何もわからんかも?)だからね。自分が書いてることを他人が言うのなら誰が何を言っても変わらないと思う。私が書いたので見てるんだろ!? 誰が!? 私が!? そうやってわかりきったことを書きながら思うwさて、ここでそんなこと書いたら「お前が書いてるよねって話聞いて黙ってたように見えただろうが!! 書いてるんだからせめて相手が自分が書いてるよねって思ってるとわかったほうが良くない?」って話でも書くか。「わからなかったら、なんもわかってほしいから書いてる可能性も捨てられない」「そこは俺がやるんだよ!!」「わからないから書かない方が良くないだろ!!」って話でも書くんじゃねーよ!!!と思う。「お前」に価値観だの「私」「それ」と「話」だと思われがちな書き手についての考え方、そういうことを書いていると思うの。それを「わからなかったら」の部分まで書いちゃ駄目じゃない。わからないなりに私が書いているからわからなくて。わからなかったら自分が書いてることを誰が言っても変わらないと思います。わからねぇよなぁって感じですね。さておいておきの書きおき。私が書いていると語られるが故に書いて書いてて、わからなければ自分が書いてないと思うよ、とそういう書き方をすでに書いている。それならそういう文章もいい書き手になってるよね、と。これは「わからなかったのにお酒に流されてもいいよ」だけだと思うの。わからないなら「わからないから書いてる」。わからないと思ったこと、わからない書き手とは違うけどね(笑)でも、その後に「わからないこともある」って書いておきたかったから書いてるんだろうwそれは「わからなかったから批判する」だけだよね。「わからなかったから批判する」だけだからこっちは「わからないから書いてる」って書いてるの。わからないことを批判するって言っておきながら「お酒に流されてもいいよ」でも「お酒を流したくないよう」でも「言った」。この言い方も「お酒を流されたいと思っているが言い方が悪い」って話に受けるだろ、と。言わない人がいるけど書けば言う人もいないよ。まぁ「言ってることはわからん」って話が「わからないから書いてない」って書きたかったのだろうなぁって思うのね。あとは「わからないこと批判する」だけだよねwwwww(言い方が悪い
========これは私が作って、お客さんに受けることだと思ったのでw 私はあまり食べないがねw そんでまぁ、私の作る料理の量によって量があるんだそーなーりーの時にまとめ買いしてちょっと持ち歩いたりw そして、お昼は一緒に飲んだくれたのも有った。美味しかった。マルセイとは飲みに行ったり一緒に飲んだりしてた。私はいつも、美味しいって言いながら食べるんだよねーと思っていたのに、マルセイはいつも「いいよ!! いいよ!!」で許してもらえていた。マルセイと美味しいって言いながら食べた時に、私、毎日幸せねーw いつもと雰囲気違ったりしてた。いつもよりちょいちょい食べていたのに食べなかった。それはマルセイと飲み会であった。楽しかったけど私の心がモヤモヤして仕方なくてマルセイは次来る時は美味しいって食べてたんだけど、それが逆になった。自分をコントロールしてしまいたくなった私はよく彼と私の仲を占いに持っていく。そして、今日、彼が来た。私が仕事にいくのを見て私が仕事に行くのを見て、彼はちょっと私より偉い人だった。私が仕事にいくのをみて、彼は仕事で偉い人に会うのを見ていた。そうやって私は偉い人と食事をするようになる。偉い人は私のことを偉くなんかやらせようとしていたけどそれが私の悪い癖でもある。だからたぶん私は偉い人が会うときはちゃんと対応してる。そのお返しの一つに「いいよ」が出てくる。私に。彼は私の自慢の娘だと思っていた。彼は私の自慢の娘であり、私はその子にはとても思えなくて、可愛がってもらっていた。でも私にはそうなるのになぜ彼女の娘が偉い人に会うのを見ている人には「いいよ」の意味がわかって無いんだろうと思う。私のことを見て欲しいだろ? 見ないで。私をコントロールしてると思うのかもしれない。私は何も見てはいない。だから私をコントロールしてる。感じてしまうんだ。もうコントロールがない。コントロールしようとしているのは私じゃないよなって。コントロールされてはいけないと思う。自分に合った私なんていないけど、それでも私の中でコントロールされてる。その思いが強すぎる。そんな私の中のコントロール権が彼女にあると思うと「いいよ」の意味がわからない。コントロールしてると思ってる。私がコントロールしてることの意味が感じられない。コントロールされたんだなって気はしなかった。コントロールしながらコントロールが続くんだろうなぁって感じで。そんで、そんな私をコントロールしよ
まぁ、なんつーか、すまん(笑)
おまけ
ツイートを食わせる
@XXXXXX この人は自分を見て欲しくないタイプなんだろうか
========
https
========あ、それは別に構わないかも(´・ω・`)ショボーン / “5.36 kg 北海道 - 共同通信” https
========
「@XXXXXX 自分でいうのも難しいけどね〜」
========何かにつけて「あなたとのラブコメ」が増えた・・・みたいなのは何度聞いたことだろうか。自分は好きでもない相手を「自分」と思うか。その相手が自分を「自分が好きな人」を持っていて、それ以上の会話はしなくて、それが自分のためにあるんだってだけで・・・。
========@XXXXXX はしごたんに会おうとしたのに会いに行けない。お母さんは今どこですか? お母さんに何の連絡もしてないです?
========
5.25秒足りない
========へー / “【30代占い師】は俺の知っているものしか見たことなかったことにしてみる - 接客業はつらいよ! 人生はチキンレース! 人生はチキンレース!\nhttps
========その前に買い物は駄目!!! と思い込む(゚◇゚)キャーン https
========@XXXXXX 私は今日も美味しく食べたので、今日も美味しく食べたので今日も美味しいと思います
========RT @XXXXXX
========
#はてなブログ 過去記事>> 【速報版】「CHAI_VIDEO」 - スナックe-リアル” https========
@XXXXXX @XXXXXX
========@XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX
========@XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX @XXXXXX
========@XXXXXX @XXXXXX @XXXXXX
========@XXXXXX
========@XXXXXX @XXXXXX @XXXXXX
========@XXXXXX
========“「人生は金でやる」という価値観を持たない人の方が幸せになります - スナックelve 本店” https
botにするならメンション飛ばしまくるのでIDは消してから食わせましょう(;´Д`)