反面教師あり学習

Go言語はじめた

2026-05-07T00:00:00Z

環境構築からチュートリアルまで色々やったのでメモを一旦放出する．

環境構築

Windowsでは，Go言語のインストールはインストーラを使って行う．この記事を書いている時点での最新版は v1.26.2．

公式サイト上のチュートリアル (https://go.dev/doc/) がかなり充実してるので，とりあえずそれらを参考にするのがよさそう．自分は前述のURL内の “Getting Started” というセクション内のチュートリアルを片っ端から追った．

Goプログラムの記述

Hello World

以下のように，適当な作業ディレクトリ内でhelloというディレクトリを作り，初期化用のコマンドでモジュールを初期化すると，go.mod というファイルが作成される．

mkdir hello
cd hello
go mod init example/hello

main.go という名前でテキストファイルを作成し，以下のように記述する．

package main

import "fmt"

func main() {
    fmt.Println("Hello, World!")
}

以下のコマンドでプログラムを実行すると，コンソール上に Hello, World! と表示される．

go run .

実行可能なバイナリファイルをを作成するときは，

go build

を実行する．

外部パッケージのインポート

外部のパッケージを利用する際は，まず，以下のようにパッケージのインポートを書く．

package main

import "fmt"
import "rsc.io/quote"

func main() {
    fmt.Println("Hello, World!")
    fmt.Println(quote.Go())
}

その後，go mod tidy というコマンドを実行し，quoteモジュールを依存モジュールに追加する (go.modファイルの内容が更新される)．

go run . でプログラムを実行すると，以下のような出力が得られる：

Hello, World!
Don't communicate by sharing memory, share memory by communicating.

Goプログラム例

RESTful API

gin-gonic/gin というWebフレームワークでRESTful APIを書いた例．詳しくは公式チュートリアル (https://go.dev/doc/tutorial/web-service-gin) を参照．

package main

import (
    "net/http"

    "github.com/gin-gonic/gin"
)

type album struct { 
    ID      string  `json:"id"`
    Title   string  `json:"title"`
    Artist  string  `json:"artist"`
    Price   float64 `json:"price"`
}

var albums = []album{
    {ID: "1", Title: "Blue Train", Artist: "John Coltrane", Price: 56.99},
    {ID: "2", Title: "Jeru", Artist: "Gerry Mulligan", Price: 17.99},
    {ID: "3", Title: "Sarah Vaughan and Clifford Brown", Artist: "Sarah Vaughan", Price: 39.99},
}

func Index(c *gin.Context) {
    c.Writer.WriteString(`<h1>It works!</h1>`)
}

func getAlbums(c *gin.Context) {
    c.IndentedJSON(http.StatusOK, albums)
}

func getAlbumByID(c *gin.Context) {
    id := c.Param("id")
    for _, a := range albums {
        if a.ID == id {
            c.IndentedJSON(http.StatusOK, a)
            return
        }
    }
    c.IndentedJSON(http.StatusNotFound, gin.H{"message": "album not found"})
}

func postAlbums(c *gin.Context) {
    var newAlbum album

    if err := c.BindJSON(&newAlbum); err != nil {
        return
    }

    albums = append(albums, newAlbum)
    c.IndentedJSON(http.StatusCreated, newAlbum)
}

func main() {
    router := gin.Default()
    router.GET("/", Index)
    router.GET("/albums", getAlbums)
    router.GET("/albums/:id", getAlbumByID)
    router.POST("/albums", postAlbums)

    router.Run("localhost:8080")
}

ゲーム

hajimehoshi/ebitengine モジュールを使うとゲーム開発も可能．以下はウインドウを表示して，“Hello, World!” という文字列を描画する例．

package main

import (
    "log"

    "github.com/hajimehoshi/ebiten/v2"
    "github.com/hajimehoshi/ebiten/v2/ebitenutil"
)

type Game struct{}

func (g *Game) Update() error {
    return nil
}

func (g *Game) Draw(screen *ebiten.Image) {
    ebitenutil.DebugPrint(screen, "Hello, World!")
}

func (g *Game) Layout(outsideWidth, outsideHeight int) (screenWidth, screenHeight int) {
    return 320, 240
}

func main() {
    ebiten.SetWindowSize(640, 480)
    ebiten.SetWindowTitle("Hello, World!")
    if err := ebiten.RunGame(&Game{}); err != nil {
        log.Fatal(err)
    }
}

NeovimのLSPを設定

golangの公式がgopls ( https://go.dev/gopls/ ) というLSPを提供している．前述のURLに各エディタ向けの案内もある．

自分はcoc.nvimやvim-lspなどの拡張機能ではなく，Neovim v0.5以降に搭載されているNeovimネイティブのLSPを使うことにした．

Neovimの設定は大体以下の通り．人によってファイルの配置は違うと思うので各々チューニングすること．

Neovimの設定ファイルである init.vim と同じ階層にlspという名前のディレクトリを作り，LSP設定用の空のスクリプトlsp/init.luaを配置する
init.vimからlsp/init.luaを以下のように呼び出す
```
runtime lsp/init.lua
```
neovim/nvim-lspconfig リポジトリの lsp/gopls.lua をコピーしてきてlspディレクトリ内に配置する
- lsp/gopls.lua: https://github.com/neovim/nvim-lspconfig/blob/master/lsp/gopls.lua

lsp/init.vimに以下の内容を記述する（キーマップは環境にあわせて変えること）

vim.lsp.enable('gopls')

vim.keymap.set('n', '<C-Tab>', '<cmd>lua vim.lsp.buf.hover()<CR>')
vim.keymap.set('n', '<C-W>', '<cmd>lua vim.diagnostic.open_float()<CR>')

おわり

EleventyでWiki用のテンプレートを作る

2025-03-21T00:00:00Z

Eleventyは静的サイトジェネレータのひとつであり，Node.jsから利用可能である．本WebサイトもEleventyを用いて構築している．

Eleventy以外の静的サイトジェネレータのHugoと比べて， MarkdownItのプラグインが利用できたり，数式に必要なMathJaxをクライアント側で実行しなくて済むようにできる (個人的な) 利点がある．

EleventyはEleventyNavigationというプラグインによってページの階層構造を記述できる．しかしながら，階層構造を変えるには各記事のFront Matterを編集する必要があることから，ページの構造を大きく変えるような変更には手間がかかるため，WikiのようなWebページを作る用途には不向きであった．

上記の問題を解決するため，Eleventyプロジェクト内の記事ファイルの配置からEleventy Navigation用のFront Matterを自動生成可能なテンプレートの作成方法を紹介する．

本稿で作成したコードを公開しているリポジトリとサンプルサイトのURLは以下の通り：

リポジトリ：https://github.com/eqs/11ty-minimal-wiki
サンプルサイト：https://11ty-minimal-wiki.netlify.app/

Hello, Eleventy World!

プロジェクトの作成

適当なディレクトリを作り npm init を実行する．作成された package.json は以下のようになる．

{
  "name": "11ty-minimal-wiki",
  "version": "1.0.0",
  "main": "index.js",
  "scripts": {
    "test": "echo \"Error: no test specified\" && exit 1"
  },
  "author": "",
  "license": "MIT",
  "description": ""
}

パッケージの追加

package.jsonにdevDependenciesを追加し，npm install を実行してパッケージをインストールする．

 {
   "name": "11ty-minimal-wiki",
   "version": "1.0.0",
   "main": "index.js",
   "scripts": {
     "test": "echo \"Error: no test specified\" && exit 1"
   },
   "author": "",
   "license": "MIT",
-  "description": ""
+  "description": "",
+  "devDependencies": {
+    "@11ty/eleventy": "^2.0.1",
+    "@11ty/eleventy-navigation": "^0.3.5",
+    "@11ty/eleventy-plugin-syntaxhighlight": "^5.0.0",
+    "markdown-it": "^13.0.1",
+    "markdown-it-mathjax3": "^4.3.2"
+  }
 }

Eleventyの設定ファイルを追加

プロジェクトルートにeleventy.config.jsを作成し，Eleventyの設定を記述する．

const markdownIt = require("markdown-it");
const pluginNavigation = require("@11ty/eleventy-navigation");

module.exports = function(eleventyConfig) {
  const md = markdownIt({
    html: true,
    breaks: false,
    linkify: true,
    typographer: true,
  });
  md.use(require('markdown-it-mathjax3'));
  eleventyConfig.setLibrary("md", md);

  eleventyConfig.addPlugin(pluginNavigation);
  return {
    dir: {
      input: "src",
    }
  };
}

Eleventyによるサイトのビルド

プロジェクトルートにsrcディレクトリを作成し，src/index.njkに以下のHTMLを記述する．

<h1>It works!</h1>

package.jsonのscriptsにビルド用のコマンドを追加する．

   "scripts": {
+    "build": "eleventy",
+    "dev": "eleventy --serve --watch",
     "test": "echo \"Error: no test specified\" && exit 1"
   },

npm run devでプロジェクトをビルドしつつサーバを起動する．サーバのURL (http://localhost:8080) にアクセスすると，「It works!」とだけ書かれたWebページが表示される．

ページのテンプレートを書く

サイト全体のテンプレートを追加

src/_includesディレクトリを作成し，src/_includes/base.njkファイルにサイト全体で使用するテンプレートを記述する．

<!DOCTYPE html>
<html lang="{{ metadata.language }}">
  <head>
    <meta charset="utf-8">
    <meta name="viewport" content="width=device-width, initial-scale=1">
    <title>
      {{ title or metadata.title }}{% if title %} | {{ metadata.title }}{% endif %}
    </title>
  </head>
  <body>
    <div class="content">
      {{ content | safe }}
    </div>
  </body>
</html>

記事ページのテンプレートを追加

src/_includes/article.njkに記事のテンプレートを記述する．

---
layout: base.njk
---

<h1>{{ title }}</h1>

{{ content | safe }}

メタデータの追加

src/_dataディレクトリを作成し，src/_data/metadata.jsonにサイトのメタデータを記述する．

{
    "title": "Minimal Wiki",
    "language": "ja"
}

src/contentsディレクトリを作成し，src/contents/index.mdを作る．ファイルの内容は空のままにする．

記事のFront Matterを計算する関数を書く

EleventyのComputed Data (https://www.11ty.dev/docs/data-computed/) の機能を利用し，contentsディレクトリ以下に配置された記事のFront Matterを計算する．

contents以下ではディレクトリ分けがカテゴリの分類を表しており，カテゴリのメタデータはディレクトリ直下のindex.mdに書くものとする．

src/contents/contents.11tydata.jsを作成し，eleventyNavigationの内容を生成するコードを書く．

module.exports = {
  layout: 'article.njk',
  eleventyComputed: {
    eleventyNavigation: {
      title: (data) => data.title,
      key: (data) => {
        const filepath = data.page.filePathStem;
        if (path.basename(filepath) == 'index') {
          return path.dirname(data.page.filePathStem);
        } else {
          return data.page.filePathStem;
        }
      },
      parent: (data) => {
        const filepath = data.page.filePathStem;
        if (path.basename(filepath) == 'index') {
          const dirname = path.dirname(path.dirname(data.page.filePathStem));
          return dirname == '/' ? undefined : dirname;
        } else {
          return path.dirname(data.page.filePathStem);
        }
      },
      order: (data) => data.order,
    }
  }
}

記事を追加

src/contents以下に適当なディレクトリと記事ファイルを作成する．

contents
|   contents.11tydata.js
|   index.md
|
+---intro
|       index.md
|       install-packages.md
|       install.md
|
\---python
        hello.md
        index.md
        numpy.md

各.mdファイルは記事を記述するファイルである．例えば，contents/intro/install.mdの内容は以下のようになっている．ファイル内にはeleventyNavigationの階層構造を表すkey，parentは一切記述していないが，これらはcontents.11tydata.jsによってディレクトリ名やファイル名から自動で計算される．

---
title: Pythonのインストール
order: 10
---

1. Pythonの公式サイト (https://www.python.org/) にアクセスする
1. 「Downloads」→「Download Python 3.x.x」をクリックする (xの部分はバージョン)

各ファイルの詳しい内容は以下のページを参照されたい：

https://github.com/eqs/11ty-minimal-wiki/tree/8a3144222f2903e45dfc015bc8236a86935d5a46/src/contents

目次を追加

最後にsrc/index.njkに目次を表示するコードを書く．

---
layout: base.njk
---

<h1>Minimal Wiki</h1>

{% set contents = collections.all | eleventyNavigation %}
{% set content = contents[0] %}
{%- for chapter in content.children -%}
  <h4>{{ chapter.title }}</h4>
  {%- for section in chapter.children -%}
    <div class="content-row">
      <a href="{{ section.url | url }}">
        {{ section.title }}
      </a>
    </div>
  {%- endfor -%}
{%- endfor -%}

以上の手順により作成したページは以下のURLから確認できる．

https://11ty-minimal-wiki.netlify.app/

おわり

Rustのaxumを使う

2025-02-21T00:00:00Z

Rust熱が高まってきたのでaxumで遊んだ．やってることはactix-webの記事とほぼ同じ．

準備

ファイルの監視と自動コンパイル

必須ではないがコマンドwatchexec (https://github.com/watchexec/watchexec) を導入しておくとプログラムを書き換えたときにサーバを自動で再起動してもらえるようになって便利である．

watchexecはRust環境があればcargoでインストールできる：

cargo install --locked watchexec-cli

以下のように使用する：

watchexec -r -- cargo run

APIアクセスのテスト

curlコマンドとか使うのも良いけど， Insomnia (https://insomnia.rest/download) というアプリケーションを使うとすごく楽になった．

使用するクレート

cargo newでプロジェクトを作ったらCargo.tomlの[dependencies]に以下のクレートを書く：

uuid = { version = "1", features = ["v4", "serde"] }
axum = { version = "0.8", features = ["macros"] }
tokio = { version = "1.0", features = ["full"] }
serde = { version = "1", features = ["derive"] }
image = "0.25"

Hello, axum

axumでサーバを立てる最小限のプログラム．cargo runで実行し，ブラウザから http://localhost:3031 にアクセスすると「It works!」の文字列が表示される．

use axum::{
    routing::get,
    response::{Html, IntoResponse},
    Router,
};
use tokio::net::TcpListener;

async fn index() -> impl IntoResponse {
    Html("<h1>It works!</h1>")
}

#[tokio::main]
async fn main() {
    let app = Router::new()
        .route("/", get(index));
    let listener = TcpListener::bind("localhost:3031").await.unwrap();
    axum::serve(listener, app).await.unwrap();
}

JSONをPOSTできるAPI

URLにユーザ名がPOSTされたらユーザを作成し，作成したユーザのIDと名前を返すAPIの例．

use axum::{
    routing::{get, post},
    response::{Html, Json, IntoResponse},
    Router,
};
use tokio::net::TcpListener;
use serde::{Serialize, Deserialize};
use uuid::Uuid;

#[derive(Deserialize)]
struct CreateUser {
    username: String,
}

#[derive(Serialize, Clone)]
struct User {
    id: Uuid,
    username: String,
}

async fn create_user(
    Json(payload): Json<CreateUser>
) -> impl IntoResponse {
    let user = User { id: Uuid::new_v4(), username: payload.username };
    Json(user)
}

async fn index() -> impl IntoResponse {
    Html("<h1>It works!</h1>").into_response()
}

#[tokio::main]
async fn main() {
    let app = Router::new()
        .route("/", get(index))
        .route("/users", post(create_user));
    let listener = TcpListener::bind("localhost:3031").await.unwrap();
    axum::serve(listener, app).await.unwrap();
}

例えばJSON：

{
    "username": "example_user"
}

を http://localhost:3031/users にPOSTすると以下のJSONが返ってくる．

{
    "id": "ae1e7bae-41dd-4f63-a32b-30df1eba9263",
    "username": "example_user"
}

画像を返すAPI

URL /image/{red} にアクセスが来たら画像を返すようなAPIを書く．画像を返すにはPngEncoderによってPNG形式にエンコードした画像データをベクタVec<u8>に入れて返す． MIME Type image/png も忘れずつける

use axum::{
    routing::get,
    extract::Path,
    http::{StatusCode, header},
    response::{Html, IntoResponse},
    Router,
};
use tokio::net::TcpListener;
use image::{
    codecs::png::PngEncoder,
    ImageEncoder, ColorType, RgbImage
};

async fn image(Path(r): Path<u8>) -> impl IntoResponse {
    let mut img = RgbImage::new(512, 512);
    for x in 0..img.width() {
        for y in 0..img.height() {
            let g = 255 - (x as f32 / img.width() as f32 * 255.0) as u8;
            let b = (y as f32 / img.width() as f32 * 255.0) as u8;
            img.put_pixel(x, y, image::Rgb([r, g, b]));
        }
    }
    let mut buf = std::io::Cursor::new(Vec::<u8>::new());
    let encoder = PngEncoder::new(&mut buf);
    encoder.write_image(&img, img.width(), img.height(), ColorType::Rgb8.into()).unwrap();
    let image_content = buf.into_inner();

    (
        StatusCode::OK,
        [(header::CONTENT_TYPE, "image/png")],
        image_content
    )
}

async fn index() -> impl IntoResponse {
    Html("<h1>It works!</h1>")
}

#[tokio::main]
async fn main() {
    let app = Router::new()
        .route("/", get(index))
        .route("/image/{red}", get(image));
    let listener = TcpListener::bind("localhost:3031").await.unwrap();
    axum::serve(listener, app).await.unwrap();
}

URL http://localhost:3031/image/128 にアクセスすると以下の画像が返ってくる．

おわり

axumは全体的に記述がすっきりしてて良いですね

C言語で書いた関数をRustから呼ぶ

2024-08-26T00:00:00Z

まず Rust のプロジェクトを作る：

cargo new rust-c-example

C言語のプログラムを適当に作り，lib/spam.c に配置する．ディレクトリ構成やファイル名は任意だが，Rust のプログラムディレクトリ (src/ 以下) は避けるのが慣例っぽい．

#include<stdio.h>

void spam() {
    printf("spam ham egg\n");
}

int add(int a, int b) {
    return a + b;
}

src/main.rs にC言語の関数を呼び出すコードを書く：

extern "C" {
    fn spam();
    fn add(a: i32, b: i32) -> i32;
}

fn main() {
    unsafe { spam(); };
    let answer = unsafe { add(10, 32) };
    println!("{:}", answer);
}

Cargo.toml にビルドスクリプト名と cc パッケージを追加する：

[package]
name = "rust-c-example"
version = "0.1.0"
edition = "2021"
build = "build.rs"

[dependencies]

[build-dependencies]
cc = "1"

ビルドスクリプト build.rs を書く：

fn main() {
    cc::Build::new()
        .file("lib/spam.c")
        .compile("spam");
}

プログラムをビルドおよび実行する：

cargo run

実行すると以下の結果が得られる：

spam ham egg
42

おわり

Rustのactix-webによるAPIサーバ実装例

2024-06-20T00:00:00Z

Rustを触ってなさすぎて記憶が怪しくなってきたので復習がてら以下の機能をもつAPIサーバを書いた：

HTMLを返す
プレーンテキストを返す
Todo管理API
- GETに対してTodo構造体をJSONとして返す
- POSTされたJSONをTodo構造体に変換
パラメタに基づいて動的に生成した画像を返す

use serde::{Serialize, Deserialize};
use image::{
    codecs::png::PngEncoder,
    ImageEncoder, ColorType, RgbImage
};
use actix_web::{
    get, post, web, App, HttpServer, Responder, HttpResponse,
    http::{
        header::{ContentType},
    }
};

#[derive(Serialize, Deserialize, Debug)]
struct Todo {
    id: Option<u32>,
    content: String,
    done: bool,
}

#[get("/todo/{id}")]
async fn get_todo(id: web::Path<u32>) -> impl Responder {
    let id_option: Option<u32> = Some(id.into_inner());
    HttpResponse::Ok().json(Todo {
        id: id_option,
        content: String::from("Develop Todo App"),
        done: false,
    })
}

#[post("/todo")]
async fn post_todo(todo: web::Json<Todo>) -> impl Responder {
    println!("Posted: {:?}", todo);
    HttpResponse::Ok().body("ok")
}

#[get("/image/{r}")]
async fn fetch_image(r: web::Path<u8>) -> impl Responder {
    let r = *r;
    let mut img = RgbImage::new(512, 512);
    for x in 0..img.width() {
        for y in 0..img.height() {
            let g = 255 - (x as f32 / img.width() as f32 * 255.0) as u8;
            let b = (y as f32 / img.width() as f32 * 255.0) as u8;
            img.put_pixel(x, y, image::Rgb([r, g, b]));
        }
    }
    let mut buf = std::io::Cursor::new(Vec::new());
    let encoder = PngEncoder::new(&mut buf);
    encoder.write_image(&img, img.width(), img.height(), ColorType::Rgb8.into()).unwrap();
    let image_content = buf.into_inner();
    HttpResponse::Ok()
        .content_type(ContentType::png())
        .body(image_content)
}

#[get("/greet/{name}")]
async fn greet(name: web::Path<String>) -> impl Responder {
    HttpResponse::Ok()
        .content_type(ContentType::plaintext())
        .body(format!("Hello {name}"))
}

#[get("/")]
async fn index() -> impl Responder {
    HttpResponse::Ok()
        .content_type(ContentType::html())
        .body("<h1>It works!</h1>")
}

#[actix_web::main]
async fn main() -> Result<(), std::io::Error> {
    HttpServer::new(|| {
        App::new()
            .service(get_todo)
            .service(post_todo)
            .service(fetch_image)
            .service(greet)
            .service(index)
    })
    .bind(("127.0.0.1", 4134))?
    .run()
    .await
}

curlで/todoにPOSTを投げる際は以下のように書く：

curl -X POST http://localhost:4134/todo \
    -d '{"content": "aaa", "done": false}' \
    -H "Content-Type: application/json"

また，/image/255にGETアクセスしたときの戻り値は以下のような画像になる：

Pythonのセイウチ演算子 (:=) について調べた

2024-04-03T00:00:00Z

セイウチ演算子 := は Rust における if let に相当する演算子で，最近 Python の調べものをしてたときにコード例でたまたま見かけて「この演算子 Python 3.8 からあったの！？」とひっくり返ってしまったのでメモ．

使い方

セイウチ演算子は if や while 文の条件式や for 文のイテレータ式の中で代入を実行できる構文．

if文の例

if文では以下のように使う：

a = [1, 5, -3, 0, 2, 2, 4, 3, -1, 0, 0]

if (n := len(a)) > 10:
    print(f'List is too long ({n} elements, expected <= 10)')

この例では，リスト a の長さを関数 len によって取得し，その値を if の条件式とブロックの中の2箇所で使う必要がある．

セイウチ演算子が無い場合は，

n = len(a) を if の直前に書く
len(a) の呼び出しを2度書く

のどちらかを行う必要がある．前者はこの if 文以外で n を参照しない場合に冗長な書き方になるし，後者だと len(a) が何度も呼び出したくない重たい処理の場合に困るが，セイウチ演算子を使った書き方はコードの複雑さを減らしつつ可読性を向上させているのがわかる．

for文 + tqdmの例

tqdm/tqdm: :zap: A Fast, Extensible Progress Bar for Python and CLI

tqdm はfor文などで使うイテレータにプログレスバーを表示するモジュール．例えば以下ように書くことで，for文によって10回実行する処理にプログレスバーをつけることができる．

import time
from tqdm import tqdm


for k in tqdm(range(10)):
    time.sleep(0.1)

また，tqdm のインスタンスについて set_postfix などのメソッドを呼び出すことでプログレスバーの表示内容をカスタマイズすることができる． PyTorchなどを使った最適化の処理を書く際，目的関数の値をターミナル上でざっくり確認する際によく使う．

セイウチ演算子を使わずに set_postfix を利用しようとすると以下のような書き方になる：

import time
from tqdm import tqdm


pbar = tqdm(range(10))

for k in pbar:
    time.sleep(0.1)
    pbar.set_postfix({'k': k})

for文で使うイテレータの定義をfor文の外に書かないといけなくなるので少し読みにくく感じる．

セイウチ演算子を使うと以下のようになる：

import time
from tqdm import tqdm


for k in (pbar := tqdm(range(10))):
    time.sleep(0.1)
    pbar.set_postfix({'k': k})

コード量としては一行減っただけだが，やりたいことの本筋でない処理による複雑さが減るのはすごく気分が良い．

参考

What’s New In Python 3.8
- https://docs.python.org/ja/3/whatsnew/3.8.html

ベイズ的アプローチの機械学習について勉強するときに見た資料まとめ

2023-12-30T00:00:00Z

たまにベイズ推論について調べ直したくなるのだけど毎回思い出すのが大変なのでまとめた．思ったより内容が頭から抜け落ちてたので感想は後から追記するかもしれない．

ベイズ推論の基本

C.M. ビショップ, 『パターン認識と機械学習』, 丸善出版, 2012.

link1 link2

通称PRML．日本語版が黄色い．

ベイズ理論の視点で回帰，分類，クラスタリング，潜在変数モデル等，種々の機械学習モデルを俯瞰できる本．

色々な機械学習手法をベイズ推論によって統一的に扱えるというところが大事なので，特定のトピックを辞書的に参照するような読み方はおすすめしない．読むならなるべくいっぺんに通読したほうがよい．

最近はPRML以外にもベイズ的機械学習の良書が多く出ているので，それらを一度読んで議論の大枠を掴んでおいてからPRMLで他書に無い細かい話を補間しながら読むのがおすすめ（指数分布族，一般化線型モデルと正準リンク関数，グラフィカルモデルやEMアルゴリズムのKLダイバージェンスを使った解釈など）．

2023年現在でも通用するぐらい何でも載ってるが，ガウス過程以外のノンパラメトリックベイズの話題は無いのでそれらに興味がある場合は他書が必須．

サポートページから図などがダウンロードできる：

Christopher Bishop at Microsoft Research: https://www.microsoft.com/en-us/research/people/cmbishop/prml-book/

須山敦志, 『機械学習スタートアップシリーズベイズ推論による機械学習入門』, 講談社, 2017.

link

通称は須山ベイズ．緑色．

PRMLも式の導出は丁寧な方だがこちらはそれに輪をかけて丁寧． PRMLが言葉でサッと飛ばしている数式も全部書いてある．ベイズの定理を使った事後分布や予測分布の導出の説明で，「確率分布の対数をとる→いい感じに変形する→指数関数によって元に戻す」という計算の流れがPRMLよりクリアに書いてあるのが良い感じ．

Juliaによる実装例が著者のGitHubで公開されているが，Juliaのバージョンがv1.0より前なので今動かすのは大変かもしれない．しかし，本文の記述が丁寧なので数式がしっかり追えているならコードを動かさずに読むだけでも実装のイメージは掴めるはず．一部のモデルについては自分がJulia v1.0以降で実装したものを公開している（メンテしてないので動かなかったらごめんなさい）：

eqs/Bayes-Notebooks: Notebooks: https://github.com/eqs/Bayes-Notebooks

持橋大地, 大羽成征, 『ガウス過程と機械学習 (機械学習プロフェッショナルシリーズ) 』, 講談社, 2019.

link サポートページ

表紙が鹿．青い．

ガウス過程もノンパラメトリックベイズなので後述の節とどっちに分類しようか迷ったけど初学者向けに書かれているのでこちらにした．

0章にベイズ的機械学習のアイデアがコンパクトにまとまっているので，ガウス過程に興味が無くてもとりあえずここだけでも読むのがおすすめ．

岩田具治, 『トピックモデル (機械学習プロフェッショナルシリーズ)』, 講談社, 2015.

link

これもノンパラメトリックベイズを含んでいるが，ニュース記事の分類という問題が混合モデルの例としてわかりやすいのでここに分類した．

ノンパラメトリックベイズ（混合ガウスモデル）

吉井和佳, ノンパラメトリックベイズ

link

佐藤一誠, 『ノンパラメトリックベイズ点過程と統計的機械学習の数理 (機械学習プロフェッショナルシリーズ)』, 講談社, 2016.

link

中華料理店過程の順番の不変性の話やギプスサンプリング実装時のクラスタ数の扱い方の話がすごい参考になった記憶がある．

ノンパラメトリックベイズ（教師なし品詞推定）

Graham Neubig, ノンパラメトリックベイズ入門〜無限 HMM と教師なし単語分割〜

link

ご注文は機械学習ですか？

link

深層学習や自然言語処理（特に教師なし形態素解析）の論文の解説と実装がまとまった謎のブログ． 2016-2017年の間，（内容の重さの割に）かなりの頻度で更新されていた．

ノンパラメトリックベイズ（関係データ）

石井健一郎, 上田修功, 『続・わかりやすいパターン認識―教師なし学習入門―』, 講談社, 2014.

link

基本的なベイズ推論の話から始まって，EMアルゴリズム，隠れマルコフモデル，混合ガウスモデルという感じで話が進んでいく．最終的に無限混合ガウスモデル，無限関係モデルまで話が発展する．

無限関係モデルの，推論の更新式の導出がかなり丁寧に記載されているが，最終結果にでかめの誤植がある．以下のスライドも合わせて確認するとよい：

ぞくパタ最終回: 13章「共クラスタリング」 | PPT: https://www.slideshare.net/eguchiakifumi/13-56954036

石黒勝彦, 林浩平, 『関係データ学習 (機械学習プロフェッショナルシリーズ)』, 講談社, 2016.

link

前半はベイズ的アプローチ（確率ブロックモデル，無限関係モデル），後半はテンソル分解によるアプローチで関係データを扱う本．

関係データを扱う本の中ではかなり丁寧な記述だが，序盤に用語の定義が大量に出てきたりとにかく話が広範囲に広がって読むのが大変だった記憶がある．モデルの説明が十分丁寧なので序盤は適当に流し読みしておいて困ったときに索引で探すといった読み方をするとよいと思う．

確率的プログラミング

自分は Stan や BUGS といった確率的プログラミング言語の本はあまり読んでいない（読んだけど動かすところまでやってない）．

とりあえずここでは読みかけている本のリストを挙げておく：

StanとRでベイズ統計モデリング - 共立出版: https://www.kyoritsu-pub.co.jp/book/b10003786.html
データ解析のための統計モデリング入門 - 岩波書店: https://www.iwanami.co.jp/book/b257893.html

おわりに

ベイズ的アプローチの機械学習の文献を紹介した．「これ一冊読めばOK！」というものが無いため，いくつかの文献を同時に読みつつ相互に内容を補完しながら理解していくとよいと思う．

おわり

PyMuPDF でPDF文書ファイルを操作する

2023-12-22T00:00:00Z

PyMuPDFでPDFを操作する方法のメモ

PyMuPDF

公式ドキュメント：https://pymupdf.readthedocs.io/ja/latest/

操作の例

複数のPDFファイルを連結する

python -m fitz join -o 1.pdf 2.pdf 3.pdf

PDFファイルの各ページをpng画像として保存する

import fitz

with fitz.open('./document.pdf') as doc:
    for page in doc:
        pix = page.get_pixmap()
        pix.save('document{i:03d}.png'.format(i=page.number+1))

数式のレンダリングをテストする記事

2023-09-19T00:00:00Z

Eleventyの設定

Eleventyの設定ファイル上で以下の記述を入れている．

markdownLibrary.use(require('markdown-it-mathjax3'), {
  output: "svg",
  loader: {load: ['[tex]/ams', '[tex]/configmacros', '[tex]/boldsymbol']},
  tex: {
    packages: {'[+]': ['ams', 'configmacros', 'boldsymbol']},
    macros: {
      bm: ["\\boldsymbol{#1}", 1],
      boldsf: ["\\boldsymbol{\\mathsf{#1}}", 1],
      nbracket: ["\\left(#1\\right)", 1],
      cbracket: ["\\left\\{#1\\right\\}", 1],
      rbracket: ["\\left[#1\\right]", 1],
      abracket: ["\\left\\langle#1\\right\\rangle", 1],
      const: "\\mathrm{const.}"
    }
  },
});

自作マクロのテスト

`\bm`

\bm A\bm x + \bm b

A x + b

p(\mathbf x | \bm\mu, \bm\Sigma) = \mathcal N(\mathbf x | \bm\mu, \bm\Sigma)

p (x | μ, Σ) = N (x | μ, Σ)

`\boldsf`

p(\mathbf w | \boldsf t) = \mathcal N(\mathbf w | \mathbf m_N, \mathbf S_N)

p (w | t) = N (w | m_{N}, S_{N})

`\nbracket`

\exp\nbracket{-\frac{z^2}{2}}

\exp (- \frac{z^{2}}{2})

`\cbracket`

\exp\cbracket{-\frac{\nbracket{x-\mu}^2}{2\sigma^2}}

\exp {- \frac{{(x - μ)}^{2}}{2 σ^{2}}}

`\rbracket`

\mathcal F\rbracket{f\nbracket{\frac{x}{a}}} = aF(a\omega)

F [f (\frac{x}{a})] = a F (a ω)

`\abracket`

\abracket{f(x), g(x)} = \int_a^b f(x)g(x)\;\mathrm dx

⟨ f (x), g (x) ⟩ = \int_{a}^{b} f (x) g (x) d x

`\const`

\int x^2 \;\mathrm dx = \frac{1}{3}x^3 + \const

\int x^{2} d x = \frac{1}{3} x^{3} + const .

その他の数式のテスト

インライン数式

平均 $\mu$，分散 $\sigma^2$ の正規分布を $\mathcal N(\mu, \sigma^2)$ と表すことにする．

平均 $μ$ ，分散 $σ^{2}$ の正規分布を $N (μ, σ^{2})$ と表すことにする．

複数行の式

\begin{align}
p(\mathbf w | \boldsymbol{\mathsf{t}})
&\propto p(\boldsymbol{\mathsf{t}} | \mathbf w)p(\mathbf w) \\
&=\cbracket{\prod_{n=1}^N\mathcal N(t_n | \mathbf w^\top \bm\phi(\mathbf x_n), \beta^{-1})}\mathcal N(\mathbf w | \mathbf m_0, \mathbf S_0) \tag{1.128}
\end{align}

\begin{aligned} p (w | t) & \proptop(t|w)p(w) \\ ={\prod_{n = 1}^{N} N (t_{n} | w^{⊤} ϕ (x_{n}), β^{- 1})}N(w|m_{0},S_{0}) \end{aligned}

\begin{align}
p(\mathbf w | \boldsf t) &= \mathcal N(\mathbf w | \mathbf m_N, \mathbf S_N) \tag{3.49}\\
\mathbf S_N^{-1} &= \mathbf S_0^{-1} + \beta \bm\Phi^\top\bm\Phi \tag{3.51}\\
\mathbf m_N &= \mathbf S_N\nbracket{\mathbf S_0^{-1}\mathbf m_0 + \beta \bm\Phi^\top \boldsf t} \tag{3.50}
\end{align}

\begin{aligned} (3.49) & p (w | t) & =N(w|m_{N},S_{N}) \\ (3.51) & S_{N}^{- 1} & =S_{0}^{- 1}+βΦ^{⊤}Φ \\ (3.50) & m_{N} & =S_{N}(S_{0}^{- 1} m_{0} + β Φ^{⊤} t) \end{aligned}

Webサイトを作り直した

2023-09-08T00:00:00Z

ここ数年自分が管理しているWebページがとっ散らかってきていたので，重い腰をどうにか上げてかなり整理した．

動機

1: サイトが散らかってた

昔，本業の片手間でWebの勉強をしてた時期にサイトを乱立させていたのだが，流石に管理しきれずに放置したものが多くなってきたので一本化したくなった．

業績や制作物を載せてるページもあったが，これを整理しようとすると永久に作業が進まないため思い切って全部畳み，必要そうなものは後から再掲する方針にした．

2: 書き物をする場所が欲しかった

もうひとつの動機として，自分がこれまで勉強してきた内容や新たに勉強した事柄をまとめて書き留めておく場所が欲しくなったのもある．

仕事でも趣味でもインプットをかなり厚めにやる性格なので，本来の目的以外のところでアウトプットする場所が無いと脳がパンクしそうだった．

また，「ブログ」の形式だとどうしても日付がついてしまって過去の内容が流れてしまう，情報を出す順序や単位が制約される等により下書きがたくさん溜まる状況を生んでしまっていた．

使ったもの：静的サイトジェネレータ Eleventy

最近はこっそり React や Next.js にも習熟しているのだが，個人のサイトでまで高水準のライブラリをいくつも使うのは運用がしんどくなりそうなので Eleventy という Node.js 製の静的サイトジェネレータを用いた．出力される HTML に JavaScript を含まないのがいい感じ．数式も MathJax で静的にレンダリングして入れるようにした．静的サイトジェネレータというよりテンプレートエンジン！！！！！という感じだったのでテーマ作りはえらく苦労した．

スタイルシートによる装飾もとにかく削った．ただし，読みにくくなるのは本末転倒なので行間・字間やフォントサイズ等は調整している．

運用：頑張らないことを頑張る

ブログの下書きが溜まる問題を解消したい

今回は投稿の順序や間隔を気にしない「ノート」という項目をブログと別に用意し，ここに普段勉強した内容を書いていく．なるべく時間経過で陳腐化しない情報を載せていきたい．

ノートの内容は Eleventy のテンプレート調整と手書きメモの電子化が出来次第追加していく．

ブログの項目も残しているが，自分はあまり日記を書くモチベーションが無いようなので，基本は「賞味期限のある」ちょっとした技術面の覚書をしていくことになると思う．

ホスト先

GitHub のリポジトリ上で記事を管理し，GitHub Actions によって GitHub Pages へのデプロイする．記事の執筆については継続がとにかく大事なので，GitHub の Web やスマートフォンアプリ上から雑に Markdown を編集するか，リポジトリを clone してエディタで書くなど，色々な方式をとれるようにする．

ブログがメインになると継続しないといけない感が出てしまうので，ノートをのんびり書く方をメインにする．とにかく気楽に執筆する環境を整える．

まとめ

ゆるくやっていきます

Bounding Box を表現するクラスとIoU計算の関数

2020-11-11T00:00:00Z

この記事について

旧ブログからの移行記事です

元記事：https://eqseqs.hatenablog.com/entry/2020/11/11/193118

概要

物体検出のタスクでバウンディングボックスをコード内で表現するとき，単に数値4つのタプルを使ってると(x1,y1,x2,y2)や(x,y,w,h)などの形式のうちどれを使ってるかわからなくなって可読性下がる問題の解決策
dataclasses.dataclass最強

コード

from dataclasses import dataclass


@dataclass
class BoundingBox:
    x1: float
    y1: float
    x2: float
    y2: float

    @property
    def cx(self):
        return self.x1 + self.width / 2.0

    @property
    def cy(self):
        return self.y1 + self.height / 2.0

    @property
    def width(self):
        return self.x2 - self.x1

    @property
    def height(self):
        return self.y2 - self.y1

    @property
    def area(self):
        return self.width * self.height


def compute_iou(bb1: BoundingBox, bb2: BoundingBox) -> float:
    x1 = max(bb1.x1, bb2.x1)
    y1 = max(bb1.y1, bb2.y1)
    x2 = min(bb1.x2, bb2.x2)
    y2 = min(bb1.y2, bb2.y2)

    inter_bb_w = max(0, x2 - x1)
    inter_bb_h = max(0, y2 - y1)
    inter_bb_area = inter_bb_w * inter_bb_h

    return inter_bb_area / (bb1.area + bb2.area - inter_bb_area)

反面教師あり学習

Go言語はじめた

環境構築

Goプログラムの記述

Hello World

外部パッケージのインポート

Goプログラム例

RESTful API

ゲーム

NeovimのLSPを設定

EleventyでWiki用のテンプレートを作る

Hello, Eleventy World!

プロジェクトの作成

パッケージの追加

Eleventyの設定ファイルを追加

Eleventyによるサイトのビルド

ページのテンプレートを書く

サイト全体のテンプレートを追加

記事ページのテンプレートを追加

メタデータの追加

記事のFront Matterを計算する関数を書く

記事を追加

目次を追加

Rustのaxumを使う

準備

ファイルの監視と自動コンパイル

APIアクセスのテスト

使用するクレート

Hello, axum

JSONをPOSTできるAPI

画像を返すAPI

おわり

C言語で書いた関数をRustから呼ぶ

Rustのactix-webによるAPIサーバ実装例

Pythonのセイウチ演算子 (:=) について調べた

使い方

if文の例

for文 + tqdmの例

参考

ベイズ的アプローチの機械学習について勉強するときに見た資料まとめ

ベイズ推論の基本

C.M. ビショップ, 『パターン認識と機械学習』, 丸善出版, 2012.

須山 敦志, 『機械学習スタートアップシリーズ ベイズ推論による機械学習入門』, 講談社, 2017.

持橋大地, 大羽成征, 『ガウス過程と機械学習 (機械学習プロフェッショナルシリーズ) 』, 講談社, 2019.

岩田具治, 『トピックモデル (機械学習プロフェッショナルシリーズ)』, 講談社, 2015.

ノンパラメトリックベイズ（混合ガウスモデル）

吉井和佳, ノンパラメトリックベイズ

佐藤一誠, 『ノンパラメトリックベイズ 点過程と統計的機械学習の数理 (機械学習プロフェッショナルシリーズ)』, 講談社, 2016.

ノンパラメトリックベイズ（教師なし品詞推定）

Graham Neubig, ノンパラメトリックベイズ入門 〜無限 HMM と教師なし単語分割〜

ご注文は機械学習ですか？

ノンパラメトリックベイズ（関係データ）

石井健一郎, 上田修功, 『続・わかりやすいパターン認識―教師なし学習入門―』, 講談社, 2014.

石黒勝彦, 林浩平, 『関係データ学習 (機械学習プロフェッショナルシリーズ)』, 講談社, 2016.

確率的プログラミング

おわりに

PyMuPDF でPDF文書ファイルを操作する

PyMuPDF

操作の例

複数のPDFファイルを連結する

PDFファイルの各ページをpng画像として保存する

数式のレンダリングをテストする記事

Eleventyの設定

自作マクロのテスト

\bm

\boldsf

\nbracket

\cbracket

\rbracket

\abracket

\const

その他の数式のテスト

インライン数式

複数行の式

Webサイトを作り直した

動機

1: サイトが散らかってた

2: 書き物をする場所が欲しかった

使ったもの：静的サイトジェネレータ Eleventy

運用：頑張らないことを頑張る

須山敦志, 『機械学習スタートアップシリーズベイズ推論による機械学習入門』, 講談社, 2017.

佐藤一誠, 『ノンパラメトリックベイズ点過程と統計的機械学習の数理 (機械学習プロフェッショナルシリーズ)』, 講談社, 2016.

Graham Neubig, ノンパラメトリックベイズ入門〜無限 HMM と教師なし単語分割〜

`\bm`

`\boldsf`

`\nbracket`

`\cbracket`

`\rbracket`

`\abracket`

`\const`