FrontPage / Learning Programming / 2015 / 2nd Semester

  • The added line is THIS COLOR.
  • The deleted line is THIS COLOR.
[[Learning Programming]]

* 2015年後期 概要 [#qd57f77d]
:目的|自然言語処理100本ノックを,Python の言語仕様,good parts,best practice,よくハマる罠などを確認しながらじっくり解く.
:日時|月曜日 13:00-14:30
:日時|%%月曜日 13:00-14:30%% → 木曜日 10:30-12:00
:参加者|折田 (naho),横井 (yokoi),上村 (may-u),鈴木 (m-suzuki),ダワ (dava),ゼン,Diana (dianags)
:TA|山口 (k.yamaguchi),佐々木 (aki-s),高橋(諒) (ryo-t),五十嵐 (igarashi)
:問題|http://www.cl.ecei.tohoku.ac.jp/nlp100/~
http://www.cl.ecei.tohoku.ac.jp/local/?nlp100-%CE%B2 (内部ページ)
https://io-lab.esa.io/posts/87 (内部ページ)
:回答|http://www.cl.ecei.tohoku.ac.jp/~igarashi/yuru_nlp/index.py (内部ページ)~
/home/igarashi/yuru_nlp/{username}/ に「問題番号を0埋め3桁.py」(e.g. 000.py) を up~
前期分: http://www.cl.ecei.tohoku.ac.jp/~takase/nlp100/index.py (内部ページ)

* 参考資料 [#j1d5b3c5]
- 分からないことがあったら…
-- Python の言語仕様や「Python っぽい書き方」が知りたければ Python 関係の資料にあたる.
-- 「オブジェクト指向って何?」「型って何?」「スコープって何?」という疑問は,プログラミング全般に書かれている書籍や,別言語の参考書で解決できるかもしれない.
-- Linux コマンドの使い方や,バージョン管理ソフト(e.g. git), ターミナルマルチプレクサ(e.g. tmux), パッケージ管理ソフト(e.g. homebrew), エディタ(e.g. vim)などの使い方で困っているならそれ専用の資料に当たる.
-- 何について困っているのか考えましょう.

** Python [#v265b074]
*** リファレンス・リンク集 [#bfbb16bc]
*** リファレンス [#bfbb16bc]
- [[Python 2.7.10 documentation>https://docs.python.org/2/index.html]]
-- ''困ったことがあったらまず公式ドキュメントを確認''
-- OS X ユーザは, [[Dash for OS X>https://kapeli.com/dash]] (各言語のドキュメントのオフラインビューア, 有償) も便利
- チートシート
-- [[Python 2.7 Quick Reference>http://rgruet.free.fr/PQR27/PQR2.7.html]]
-- [[言語処理のための Python チートシート>http://www.cl.ecei.tohoku.ac.jp/~m-suzuki/contents/cheatsheet_01.html]] 鈴木氏(B4)作

*** リンク集 [#of64a9fd]
- [[python - 機械学習の「朱鷺の杜Wiki」>http://ibisforest.org/index.php?python]]
-- 特に機械学習関連の, 周辺ツール, ドキュメント等に関する充実したリンク集
- [[Pythonを始める人への日本語情報集 - None is None is None (2011/12/15)>http://doloopwhile.hatenablog.com/entry/20111215/1323961291]]

*** 情報を取り出すための基本コマンド [#db51cdf5]
- `help(command)` -> docstring がページャで開かれる.`command?` でも print されるが,場合によっては短縮版.
- `dir(obj)` -> オブジェクトに紐づくプロパティ名やメソッド名の一覧が表示される.
- `type(obj)` -> オブジェクトの型が表示される.
- `locals()` -> 呼び出した場所から見える変数とその値を dict 形式で取り出す.

*** 導入・全体像など [#xe273020]
- [[Python入門 (全24回) - プログラミングならドットインストール>http://dotinstall.com/lessons/basic_python_v2]]
-- 他の言語を触ったことがある人が Python の記法をざっと確認するのに良い.全部で 1.5 時間程度.
- [[The Python Tutorial — Python 2.7.10 documentation>https://docs.python.org/2/tutorial/index.html]] (en)
- [[Python チュートリアル — Python 2.7ja1 documentation>http://docs.python.jp/2/tutorial/]] (ja)
-- 何はともかくチュートリアルを全部読む.
- 『みんなの Python』
-- 文体が合うなら. 誤魔化した記述も多い.
- [[お気楽 Python プログラミング入門>http://www.geocities.jp/m_hiroi/light/index.html]]
-- 特に関数型的な手法, OOP についての記述が充実. 内容が正確.

*** Good Parts [#cbd02653]
- 『Python Cookbook』
-- 日本語版は, 版が古く, かついくつかの章が省略されている
- 『エキスパートPythonプログラミング』
-- Good Parts および Python ちっくなソフトウェア工学

*** コーディング規約・スタイルガイド [#acf036bb]
- [[PEP 0008 -- Style Guide for Python Code | Python.org>https://www.python.org/dev/peps/pep-0008/]] (en)
- [[pep8-ja 1.0 ドキュメント>http://pep8-ja.readthedocs.org/ja/latest/]] (ja)
- pep8 コマンドでチェック可.

*** Tools [#j1d19b80]
- Jupyter
-- GUI インタラクティブインタプリタ, 兼 markdown メモ, 兼 図表ビューア
-- スピーディにプログラムの第1稿を作る際の必須ツール
-- matplotlib (seaborn) との相性も良く, 実験でも大変便利
- [[Online Python Tutor>http://pythontutor.com/]]
-- プログラムの動き (メモリが書きかわる様子) を視覚化

*** 2.x 系? 3.x 系? [#d8d67640]
- 3.x 対応済みライブラリ:
- 3.x 未対応ライブラリ:
-- mecab (いろいろ回避策はある様子)
- [[2to3を使ってコードをPython 3に移植する - Dive Into Python 3 日本語版>http://diveintopython3-ja.rdy.jp/porting-code-to-python-3-with-2to3.html]]

*** misc [#pf72bd66]
- [[TimeComplexity - Python Wiki>https://wiki.python.org/moin/TimeComplexity]]
-- データ構造毎の各操作の計算量の比較

** プログラミング全般,各種パラダイム [#l35d2859]
- 『プログラマの考え方がおもしろいほど身につく本』([[目次>http://www.amazon.co.jp/dp/toc/4048869558/]])
- 『コーディングを支える技術』([[目次>http://nhiro.org/langbook/toc.html]])
- 『リーダブルコード』
** Linux,各種ツール [#f11a464b]
- 全般
-- 『新しい Linux の教科書』
- シェル
-- 『zsh の本』
- バージョン管理
-- 『GitHub 実践入門』

* 予定・記録 [#u994207c]
** #13 2016/03/31(Thu) 10:30- (予定) [#w946bdac]
*** 参加者 [#j4982850]
- 横井
- (TA) 山口,佐々木
*** 解いた問題 [#ufaf3989]
- 041
*** Tips [#x42e2761]
- `ret = [Chunk()] * len(sentence)` こうすると同一インスタンスのポインタのコピーが格納されてしまう
-- 問題がない例: immutable (e.g., int, str)
-- 問題がある例: mutable (e.g., list) (pointer っぽいやつは注意)
- すぐ捨てる変数に `_` は bad know-how ?
-- [[function - Ignore python multiple return value - Stack Overflow>http://stackoverflow.com/questions/431866/ignore-python-multiple-return-value]]

** #12 2016/03/03(Thu) 10:40-11:50 [#h4d435d6]
*** 参加者 [#c0447a9e]
- 横井,ダワ
- (TA) 山口,佐々木
*** 解いた問題 [#sbbd9f15]
- 036-039 (4問)

** #11 2016/02/25(Thu) 10:40-11:10 [#f646fb1e]
*** 参加者 [#yf483233]
- 横井,ダワ
- (TA) 山口
*** 解いた問題 [#d5ea1fa6]
- 040 (1問)

** #10 2016/01/28(Thu) 11:00-12:00 [#qa0ddaa1]
*** 参加者 [#hc020a9f]
- 横井,上村,ダワ
- (TA) 山口
*** 解いた問題 [#u06e576e]
- 030-035 (6問)
*** Tips [#z698d174]
- pretty print
-- pprint.pprint(obj)
--- 非 ascii 文字未対応
-- prettyprint.pp(obj)
--- 非 ascii 文字未対応
--- 細かい設定は不可
--- JSON に convert して print しているだけ?
- `if not l == []`
-- `if l` で良い
-- python はあまり `!=` という書き方をしない?
- 内包表記の多重 for は左側の for が外側ループ

** #09 2016/01/21(Thu) 11:00-12:10 [#d02fb3d5]
*** 参加者 [#ja9b5c70]
- 横井,ダワ
- (TA) 山口,佐々木,高橋
*** 解いた問題 [#d545d7e6]
- 027-029 (3問(
*** Tips [#a63ee8b5]
- 正規表現による置換
-- `new_string = pattern.sub(正規表現文字列, old_string)`
--- 気持ちとしては `new_string = old_string.sub(p, r'exp')`
-- `new_string = re.sub(pattern, repl, old_string)` でもOK.
-- `正規表現文字列` 部分には「match object を受け取って str を返す関数」を入れてもOK. ([[山口さんの 027 の回答>http://www.cl.ecei.tohoku.ac.jp/~igarashi/yuru_nlp/index.py#p027]])
- ([[itertools - Recipes>https://docs.python.org/2/library/itertools.html#recipes]] について) 高速になるかもしれないが,標準で用意されている関数の(無理な)利用は可読性を損なう可能性があるので注意.
- 外部ファイルの読み込み
-- 同ディレクトリに置かれた `foo.py` に定義されている `def baa()` の読み込み: `from foo import baa`
-- モジュール名は変数名として valid でなければいけない=数字ではじまるファイル名は(変数名として invalid なので)許されない.
-- python のプロジェクトにおいては,プログラムファイル名は,変数名として valid なものにしておくのが良い.
-- `import foo` だと global 領域に名前 `foo` が読み込まれ,foo.py に定義された関数 baa は `foo.baa()` で呼び出すことができる.
- 明らかにマッチしない行に対する正規表現検索(コスト高い)を回避するために `if 'foo' in line:` などと前処理をしても良い.
- `@classmethod` デコレータ
-- `def foo(cls, args):`
-- クラスインスタンスのメソッドではなくクラスそのものが持つメソッド

** #08 2015/12/14(Mon) [#y71e9603]
*** 参加者 [#o4df78ac]
- 横井,ダワ
- (TA) 山口,高橋
*** 解いた問題 [#y8ceea8c]
- 024-026 (3問)

** #07 2015/12/07(Mon) 13:15-14:50 [#o8b1abc9]
*** 参加者 [#k122c20a]
- 横井,上村,鈴木,ダワ
- (TA) 山口,佐々木,高橋
*** 解いた問題 [#le8bedb9]
- 020-023 (4問)
*** Tips [#i0f82745]
- `dict.get(k[, d])`: D.get(k[,d]) -> D[k] if k in D, else d.  d defaults to None.
-- `dict[key]` の場合,dict に key が存在しない場合 KeyError で落ちる
- `dict.setdefault(k[, d])`: D.setdefault(k[,d]) -> D.get(k,d), also set D[k]=d if k not in D
-- 挙動は 'get or set default value'
-- 可読性を落とすので ''dict.setdefault は使わない''
-- dict に初期値を与えたい場合は collections.defaultdict を使う

*** Tips (JSON) [#kb4a42ba]
- `import json`
-- `json.load(fp)` -> a Python object
-- `json.loads(s)` -> a Python object (s: str or unicode)
--- よきに strip() してくれる?
--- 基本的に文字列は unicode 型に.
--- `json.loads('  {"foo":"baa"}  ')` -> `{u'foo': u'baa'}`
- `$ jq` (shell)
-- `-r`: output raw strings, not JSON texts;
--- クォートされた文字列を生の文字列にする 例えば '\n' で改行される
--- クォートされた文字列中に改行を含むデータは `-r` せず,クォートされたままの方が扱いやすい
--- たとえば tweet データ
--- Shell で無理に処理しない

*** Tips (正規表現) [#b9da1ad3]
- references
-- [[お気楽 Python プログラミング入門 - 第 4 回 正規表現とジェネレータ>http://www.geocities.jp/m_hiroi/light/python04.html]]
- pattern
-- 基本的に `r` を付ける(`r'exp'`)
-- unicode 文字列の場合は `ur'exp'`
--- utf-8 の文書に対して ascii の文字列で match させたい場合は,とくに u をつけなくてもOK.別の文字列を表すバイト列に ascii の文字列が部分列として含まれることはない(ように設計されている)
--- sjis だと↑の問題が起き得る.
- match
-- **p.match は bad parts っぽい**
-- p.match は行頭限定の p.search.はじめから pattern に `^` を入れて検索すれば良さそう.

*** Tips (シェル芸) [#dcbff677]
- references
-- [[テキスト処理のための標準的なコマンド群の OS X への導入手順 - Qiita>http://qiita.com/eumesy/items/3bb39fc783c8d4863c5f]] (書きました 横井)
- cat
-- `$ cat file | some commands`: UUOC(useless use of cat)
--- controversial. e.g., http://stackoverflow.com/questions/11710552/useless-use-of-cat
--- 可読性は向上する
--- `$ < file command` でもOK
- echo
-- `-e`: enable interpretation of backslash escapes
--- e.g., `echo -e 'foo\nba
- 並列処理
-- parallel
--- `$ command1 | parallel command2 {}` で,command1 の出力行毎に command2 が並列実行される.各行は command2 の引数 `{}` に流し込まれる.結果は統合されて出力される.統合は command1 の出力順に従う.

** #06 2015/11/30(Mon) 13:10-14:10 [#xf082c6b]
*** 参加者 [#hfb84051]
- 折田,横井,上村,鈴木,ダワ
- (TA) 山口,高橋
*** 解いた問題 [#dfde2d23]
- 017-019 (3問)

** #05 2015/11/16(Mon) 13:10-15:05 [#h189f914]
*** 参加者 [#r8324215]
- 横井,ダワ
- (TA) 山口,佐々木,高橋
*** 解いた問題 [#kf779fd7]
- 014-016 (3問)
*** Tips [#nbc7091a]
- seq[:n] で n>len(seq) だった場合もよきに計らってくれる (末尾以後の無視され,seq[:] が返る)
- 入出力
-- ファイルオブジェクトの確保
--- sys.stdin の __exit__() メソッド(ある!)を呼び出す必要は特にないので, `with sys.stdin as f` は不要
- 014
-- queue
--- Queue クラスもあるが,collections.deque (double-ended queue; 双方向キュー) の方がいろいろ楽
--- deque(iterable, maxlen) で,iterable が順に (右から) append され,同時に,maxlen を超える場合は自動的に (左から) pop される
--- https://docs.python.org/2/library/collections.html#collections.deque
-- ring buffer
--- [[2014年度佐々木さん資料>http://www.cl.ecei.tohoku.ac.jp/local/handouts/2013/misc/misc-20140116-aki-s.pdf]]
- pandas
-- jupyter との共用が前提.interactive に表の状態を可視化できる.(セルの最後の行の評価結果がデータフレームであれば,そのまま見やすく出力される)
- any, all
-- any(iterable): exists.or の拡張.
--- https://docs.python.org/2.7/library/functions.html#any
-- all(iterable): forall.and の拡張.
--- https://docs.python.org/2.7/library/functions.html#all
-- iterable の各要素に対して副作用にのみ興味がある操作を実行する場合のワンライナー用途にも便利: `any(sys.stdout.write(l) for l in f)` (file.write は None を返す)
*** Tips (shell command の実行) [#b6af0ddf]
 >>> import subprocess
 >>> import shlex
 >>> cmd = readline()
 wc -l hightemp.txt

- 結果を受取る: `subprocess.check_output(shlex.split(cmd))`

** #04 2015/11/09(Mon) 13:00-14:40 [#a1612176]
*** 参加者 [#rc8d4e7a]
- 横井,上村,鈴木,佐藤,ダワ,Diana
- (TA) 山口,佐々木,高橋
*** 解いた問題 [#zacb2225]
- 009-013 (5問)
*** Tips [#z8c803ae]
- ファイル末尾の改行:
-- POSIX 的には必要 http://hiroakiuno.hatenablog.com/entry/20070409/p1
-- Python 的にも,抜けていると pep8 コマンドの warning 対象 (W292) http://pep8.readthedocs.org/en/latest/intro.html
- list(文字列) → 文字のリスト
-- `list('hoge')` -> `['h','o','g','e']`
- スライスはコピーを返す.
-- `x=range(5); random.shuffle(x[:])`: x は shuffle されない.
- str.split() で separator を省略すると,連続したホワイトスペースがひとつのセパレータと見なされる.cf. separator として `' '` (ひとつの空白) を指定
-- `'foo  baa'.split()` -> `['foo','baa']`
-- `'foo  baa'.split(' ')` -> `['foo','','baa']`
- import 式: e.g., `__import__('random')`
-- グローバル領域の名前「モジュール名」を汚さない. (function スタックには積まれるので再利用性が下がりすぎることはない?)
-- lambda 式などで使い捨てするか,別の特定の変数に代入して使う?
-- ミドルウェアのバージョン違いを呼び出したいなど,モジュール名を動的に指定したいときにも便利.
-- `import somemodule as sm` と `sm = __import__('somemodule')` は等価?
- random
-- random.shuffle(seq) は seq 自体を書き換える.値は返さない?
-- `random.sample(population, k)`: 母集団 (population) から k 個の標本を非復元抽出 (重複なしの sampling) をして結果のリストを返す
-- 標準ライブラリの [[random>https://docs.python.org/2.7/library/random.html]] よりも [[numpy.random>http://docs.scipy.org/doc/numpy/reference/routines.random.html]] の方が偏りが少ないので,特に数値計算における乱数生成においては numpy.random を用いるべき ([[python/numpy - 機械学習の「朱鷺の杜Wiki」>http://ibisforest.org/index.php?python%2Fnumpy#c08965c1]])
- 基本的には generator 式の方が explicit なリストを作るよりも時間計算量も空間計算量も有利.
-- ただし,str のリストを join する場合は、はじめからリストにした方が速い.
- `sorted(list, key=f)` f は list の要素から実数への関数.x を f(x) をキーに昇順に並べ直したリストを返す.
-- e.g., `sorted([['a',1],['b',3],['c',2]], key=(lambda x:x[1]))` -> `[['a', 1], ['c', 2], ['b', 3]]`
- 入出力
-- ファイルオブジェクトの確保
--- 標準入力: `import sys; f = sys.stdin` (同様に `sys.stdout`, `sys.stderr` で標準出力,標準エラー出力が取り出せる)
--- ファイル path を指定して open: `with open('foo.txt', 'r') as f:`
--- with exp as x: とすると,exp の評価結果のオブジェクトが x に代入され,with ブロックを抜ける際に obj.__exit__() が実行され,よきにはからってくれる (ファイルの場合は close してくれる)
--- ファイル path を複数指定して cat したものを open: `import fileinput; f = fileinput.input(['foo.txt', 'baa.txt'])`
--- コマンドライン引数から与えたファイルの集合 (sys.argv[1:]) を cat したものを open: `import fileinput; f = fileinput.input()`
-- 読み込み (改行コードも取得される)
--- 1行ずつ読み込み: `f.readline()`
--- 1行ずつ読み込み: `for l in f`
--- 全ての行を読み込んで配列に確保: `arr = f.readlines()` (ファイルが小さいとわかっているとき以外非推奨)
-- 書き出し
--- 標準出力に書き出し(末尾に改行を挿入する): `print 'foo'`
--- 標準出力に書き出し(末尾に改行を挿入しない): `print 'foo',` (余計な空白も挿入されない)
--- 標準出力に書き出し(末尾に改行を挿入しない): `sys.stdout.write('foo')` (None を返す)
--- ファイルに書き出し(末尾に改行を挿入しない): `f.write('foo')`
--- ファイルに書き出し(末尾に改行を挿入する): `print >> f, 'foo'`
--- ファイルに書き出し(末尾に改行を挿入しない): `print >> f, 'foo',`
*** Tips (入出力) [#d6b8becc]
- ファイルオブジェクトの確保
-- 標準入力: `import sys; f = sys.stdin` (同様に `sys.stdout`, `sys.stderr` で標準出力,標準エラー出力が取り出せる)
-- open: `with open(path, 'r') as f:`
--- 'r': read, 'w': write, 'a': 追加書き込み
--- 'b': binary (これは,テキストファイルとバイナリファイルが区別される環境 e.g., Windows でのみ気にするオプション)
-- with exp as x: とすると,exp の評価結果のオブジェクトが x に代入され,with ブロックを抜ける際に obj.__exit__() が実行され,よきにはからってくれる (ファイルの場合は close してくれる)
-- ファイル path を複数指定して cat したものを open: `import fileinput; f = fileinput.input(['foo.txt', 'baa.txt'])`
-- コマンドライン引数から与えたファイルの集合 (sys.argv[1:]) を cat したものを open: `import fileinput; f = fileinput.input()`
- 読み込み (改行コードも取得される)
-- 1行ずつ読み込み: `f.readline()`
-- 1行ずつ読み込み: `for l in f`
-- 全体を読み込み: `f.read()`
-- 全ての行を読み込んで配列に確保: `arr = f.readlines()` (ファイルが小さいとわかっているとき以外非推奨)
- 書き出し
-- 標準出力に書き出し(末尾に改行を挿入する): `print 'foo'`
-- 標準出力に書き出し(末尾に改行を挿入しない): `print 'foo',` (余計な空白も挿入されない)
-- 標準出力に書き出し(末尾に改行を挿入しない): `sys.stdout.write('foo')` (None を返す)
-- ファイルに書き出し(末尾に改行を挿入しない): `f.write('foo')`
-- ファイルに書き出し(末尾に改行を挿入する): `print >> f, 'foo'`
-- ファイルに書き出し(末尾に改行を挿入しない): `print >> f, 'foo',`
- プロンプトから読み込み
-- `s = raw_input()` (改行コード入力まで)
*** Tips (Shell) [#r9563549]
- <(command) で command の出力がファイル扱いになる
-- e.g., `$ diff <(./hoge) <(./fuga)`
-- cf. パイプでは標準出力→標準入力でしか渡せない (前処理側コマンドの出力を次処理側コマンドのコマンドライン引数として渡せない)
- 特にシェル芸をしたい場合,OS X (BSD 系) のコマンド群を GNU/Linux 系の (ググった場合に大抵出てくる方の) コマンド群に置き換えるために,homebrew で gawk, gsed, gtar, coreutils (ls, cd などが含まれる) をまとめてインストール推奨

** #03 2015/11/02(Mon) 13:00-14:30 [#h6a7d292]
*** 参加者 [#e9c8279f]
- 折田,横井,上村,ダワ
- (TA) 山口,佐々木,高橋,鈴木
*** 解いた問題 [#mb1d3522]
- 005-008 (4問)
*** Tips [#td870f8f]
- 利用しない変数はアンダースコアそのものないしアンダースコアからはじまる変数名を用いることが多い.
-- e.g. 回す回数にのみ興味があり,インデックスには興味がない for 文:  `for _ in xrange(3): print('foo')`
-- `_` は ML 系のようにワイルドカードを表すわけではない.
- 基本的な演算に対して,True は 1,False は 0 として振舞う.
-- http://docs.python.jp/2/reference/datamodel.html
 ブール型は整数のサブタイプで、ほとんどの演算コンテキストにおいてブール型値はそれぞれ 0 または 1 のように振舞います。
 ただし、文字列に変換されたときのみ、それぞれ文字列 "False" および "True" が返されます。
-- `[e0, e1][cond]`: 評価結果は三項演算子と等価.ゴルファーの定石らしい.ただし常に `e0, e1` がともに評価され無駄.文字数削減以外のメリットはない.
- メソッドや関数を `()` を付けずに変数に代入すると,変数が呼び出し可能オブジェクトとなる.
-- e.g. `f='{}時の{}は{}'.format` `print f(12,'気温',22.4)'`
-- lambda 式のように扱える.
- Python の `and`,`or` の挙動
-- `e1 or e2` は `e1` の評価結果が真(と見なせる)とき `e1` の ''評価結果そのもの'' ,偽のとき `e2` の ''評価結果そのもの'' を返す
--- `2 or 0` -> 2
--- cf. C言語: 評価を `e1` 止める点は同じだが,返すのは `e1` の(cond としての,bool としての)評価結果 \in {0, 1}
-- `e1 and e2` は `e1` の評価結果が偽(と見なせる)とき `e1` の ''評価結果そのもの'' ,真のとき `e2` の ''評価結果そのもの'' を返す
- def の引数の可変長化
-- `*`ではじまるパラメータは可変長の引数を取り tuple として関数に取り込む
--- `def f(*args): print args; f(1,2,'foo')` -> (1,2,'foo')
-- `**`  ではじまるパラメータは可変長の引数を取り dict として関数に取り込む
--- `def f(**args): print args; f(x=0,y=1)` -> {'x': 0, 'y': 1}
-- https://docs.python.org/2.7/reference/compound_stmts.html#function-definitions
- 文字コード,unicode 型,str 型
-- `'文字列'` ''というバイト列'' (エンコードはファイルやシェルのエンコード)は,評価されると,str 型(配列としてのバイト列)となる.
-- `u'文字列'` ''というバイト列'' は、評価される unicode 型(len を取れたり,index で各「文字」が拾える配列)となる.
-- `codecs.encode(u, 'sjis')`: codecs.encode は unicode 型を受け取り,第2引数で指定した通りにエンコードした str 型を返す.
-- 「ソースコードに記載された実際のバイト列」と「今見えている文字列(バイト列をエディタやシェルのエンコーディングでデコードした,我々に見える文字列)」を区別する.
-- 「評価結果として返るデータ(unicode 型 or str 型)」と「今見えている文字列(データをエディタやシェルのエンコーディングでデコードした,我々に見える文字列)」を区別する.
-- 「今見えている文字列(ソースコードをエディタが解釈して表示された文字列)」と「そのソースコードが評価されるとどういうデータ型になるか」を区別する.
- [[Pythonで日本語を扱う際の注意点>http://www.cl.ecei.tohoku.ac.jp/~aki-s/python_j.html]]

*** Tips (文字コード (Python 2.x)) [#i484b3ac]
- references
-- [[Pythonで日本語を扱う際の注意点>http://www.cl.ecei.tohoku.ac.jp/~aki-s/python_j.html]](D1 佐々木氏)
-- [[Pythonの日本語処理>http://www.wakayama-u.ac.jp/~kazama/lab/python/i18n.html]]
-- [[Pythonで日本語を使う - Pythonのお勉強>http://python.rdy.jp/wiki.cgi?page=japaneseCharset]]
-- [[Pythonで日本語関係のイライラ - 唯物是真 @Scaled_Wurm>http://sucrose.hatenablog.com/entry/20111112/p1]]
-- [[Unicode HOWTO — Python 2.7.11 documentation>https://docs.python.org/2/howto/unicode.html]]
-- [[PythonのUnicodeEncodeErrorを知る - HDEラボ>http://lab.hde.co.jp/2008/08/pythonunicodeencodeerror.html]]
-- [[Python と文字コード>http://www.kabipan.com/computer/python/unicode.html]]
-- [[Python2で文字列を処理する際の心掛け - Qiita>http://qiita.com/FGtatsuro/items/cf178bc44ce7b068d233]]

- ソースコードのエンコーディング
-- 1行目 or 2行目に以下のマジックコメントを指定することで,ソースファイルを(実体はバイト列)をどの文字コードで解釈すべきなのかを python の処理系に教える
---  `# -*- coding: utf-8 -*-`
--- エディタの設定やシェルのロケール($LANG)に合わせておけば良い.(すべて utf-8 にしておけば良い)

- str 型
-- str 型はバイト列そのもの
-- `s = 'ほげ'` // '\xe3\x81\xbb\xe3\x81\x92'
-- file から read する際,バイト列(=str 型)が読み込まれる.
-- file へはバイト列(=str 型)を write する.

- unicode 型
-- `u = u'ほげ'` // u'\u307b\u3052'
-- unicode で規定された各「文字」を区別するための内部表現
-- (非 ascii 文字列に対する)比較や文字列長の計算などが「直感的に」行える.
-- 非 ascii 文字が入ったファイルはなるべく早めに unicode 型にして処理する.
-- ただし unicode 型は処理が遅い.unicode 型にする必要がなければ,また,速度がきになる場合は,str 型のまま(バイト列のまま)処理する.

- str 型(バイト列)と unicode 型の相互変換
-- `s.decode('utf-8')` -> unicode 型
-- `u.encode('utf-8')` -> str 型
--- `codecs.endcode(u, 'utf-8')` との違い?
-- encode()/decode() 時のデフォルトの encoding (文字コード)は sys.getdefaultencoding() に従う.
-- sys.getdefaultencoding() の変更方法は後述.
-- ascii 文字(列)は処理系がよきに計らってくれる
--- `'a' == u'a'` -> `True`

- ファイルの読み込み
-- `open(path, 'r')` -> バイト列(str 型)として読み込み.
-- `import codecs` `codecs.open(path, 'r', 'utf-8')` -> unicode 型で読み込み.
- unicode 型を直接 print
-- sys.stdout.encoding に従って encode される
-- sys.stdout.encoding 設定方法は後述.
- unicode 型をファイルに直接 write(),または,print だがパイプで別プロセスに流す
-- sys.getdefaultencoding() に従う.
- sys.setdefaultencoding の設定
-- ソースコード中に以下の3行を追加するか
 import sys
 reload(sys)
 sys.setdefaultencoding('utf-8')
-- sitecustomize.py を編集し以下の2行を追加する.
 import sys
 sys.setdefaultencoding("utf-8")
- sys.stdout.encoding の設定
-- `sys.stdout = codecs.getwriter('utf_8')(sys.stdout)` で変更可.
-- 指定がなければ&''ターミナルエミュレータに吐き出す場合は'' シェルのロケール($LANG)が参照される.
-- 次プロセスにパイプで繋ぐ場合は sys.setdefaultencoding が参照される.
-- ''とりあえず sys.setdefaultencoding をセットしておくべし.''
- 我々に「見えて」いるのは,str 型や unicode 型がバイト列に変換されたものをシェルやエディタが解釈した後の「文字列」であることに注意.

** #02 2015/10/26(Mon) 13:00-14:45 [#p387ca4e]
*** 参加者 [#x77eee8a]
- 折田,横井,上村,ダワ,Diana
- (TA) 佐々木,高橋,五十嵐,鈴木
*** 解いた問題 [#r63da14d]
- 002-004
*** Tips [#z2645dde]
- 文字列のクォーテーション
-- シングルクォート,ダブルクォートどちらでもOK.ただし docstring の triple-quoted strings はダブルクォートを使うのが普通.
-- https://www.python.org/dev/peps/pep-0008/#string-quotes
- docstring
-- `"""` に続く1行目が関数の要約解説
-- 空行をひとつ挟んで,残りで詳細を書く
- zip
-- 複数のシーケンスからタプルのリストを作る: zip(seq1 [, seq2 [...]]) -> [(seq1[0], seq2[0] ...), (...)]
-- 引数のシーケンス長が異なる場合は,一番短いものに合わせられる zip([1,2,3],[4,5]) -> [(1, 4), (2, 5)]
- str.join の引数は,string が返ってくる iterable なオブジェクトならなんでも良い S.join(iterable) -> string
-- '_'.join('hoge') ->  'h_o_g_e'
-- ''.join( ('a', 'b', 'c') ) -> 'abc'
- 文字列は immutable なので、`s += ...` の連発は、都度メモリ確保が発生して遅い&無駄.list に append → join にすべし.
-- → と思いきや誤差っぽい.(cf. JavaScript) 文字列長が極端に長ければ有用かもしれないが,どういうシチュエーション?
- 計算量関連
-- set は x in s が早い (average: O(1))
--- set, dict は hash table が作られる.
--- set の要素および dict の key には hashable (≒immutable ?) なオブジェクトしか入れられない.
--- たとえば set の要素に list を入れることはできない.
-- list は(一般的なプログラミング言語で使う意味での)配列.連続したメモリ領域に書き込まれ,get が高速 (O(1))
-- (一般的なプログラミング言語で使う意味での)「リスト(cons cell 型のデータ構造)」を作りたければ,多重タプルで無理矢理実装できなくもない `(a, (b, (c, d)))`
-- [[TimeComplexity - Python Wiki>https://wiki.python.org/moin/TimeComplexity]]
- a, b, c は基本的に (a, b, c) の意 (syntax sugar?)
-- ただし,f(a,b,c) (3引数) と f( (a,b,c) ) (1引数) は意味が異なる
-- https://docs.python.org/3.5/library/stdtypes.html#tuple
- クラスのメソッドの第一引数に self をつけられるのは,クラスそのものの public method として呼び出した場合とインスタンスのメソッドを呼び出した場合の挙動を一致させたい(ないし一度に定義したい)という設計思想も入っている
-- `set.union(X,Y)` == `X.union(Y)` (第一引数が省略されている)
- 文字列処理
-- str.split(): 任意のセパレータ文字列(初期値はスペース, タブ, 改行)で分割→リストに保存
-- ''正規表現はスピードのボトルネックになるので極力使わない''
--- `r'[]'` の中の「ピリオドにマッチ」を表す `.` はエスケープ不要
--- `[]` の中では先頭の `^` および先頭以外の `[`, `]`, `-` 以外はエスケープ不要
-- str.strip() 引数に入れた文字列を文字の集合と見て、文字列の両端に存在する該当文字を削除 '.,.ho..ge,,'.strip(',.') -> 'ho..ge'
--- 一方からだけ削りたい場合は rstlip, lstrip
-- 引数を与えない場合、各種ホワイトスペース ('\t', ' ', '\n', など) が取り除かれる.
--- 内側も削る場合は replace
- 内包表記 (comprehensions)
-- dict comprehensions `{k:v for ...}`
--- https://www.python.org/dev/peps/pep-0274/
--- dictionary の内包表記は dict((k,v) for ...) でもOK
--- if を入れる場合は `{(k_1 if cond_k else k_2):(v_1 if cond_v else v_2) for ...}`
- generator
-- `(f(x) for x in iterable)` は generator expressions (ジェネレータ式)
--- https://docs.python.org/2/reference/expressions.html#generator-expressions
--- ただし,1引数関数の引数にこのジェネレータ式を入れる場合は左右の確固を省略できる `dict(f(x) for x in iterable)`
-- generator は「遅延評価されるストリーム」の作成方法のひとつ
--- iterator はプロトコル.「next() メソッドを持ってね,こういう風に動作してね」というノリだけ定められている.
--- itertools.iterator という抽象クラスは用意されているが,実装上は独自型を作ってコンストラクタを充てることが多い?
--- docstring には↑を使う?
--- 「遅延評価されるストリーム」を作りたければ,1. iterator 的なクラスを作る,2. generator 式,3. generator 関数(def/yield)のいずれか
- dictionary を value でソート: sorted(d.iteritems(), key=(lambda x: x[1]))
-- 全体としてリストを返す
-- iteritems(): (k,v) のリストの iterator を返す
- fold, reduce
-- sum([('a','b'),('c','d')], ()) は,おそらく,`()`(空タプル)を初期値として `+` で left fold.
-- reduce は left fold.
-- reduce(func, seq, init) で init を与えない場合は,seq の 0 番目が init 扱いになり,func(seq[0], seq[1]) から計算がはじまる.

** #01 2015/10/19(Mon) 14:40-17:00 [#s07f67f0]
*** 参加者 [#bd421c20]
- 横井,上村,ダワ,Diana,ゼン
- (TA) 山口,佐々木,高橋,五十嵐
*** Tutorial (佐々木) [#rf44cdaf]
- 環境構築(environmental construction) [[slide(ja)>http://www.cl.ecei.tohoku.ac.jp/local/handouts/2015/misc/misc-20151019-aki-s.pdf]], [[slide(en)>http://www.cl.ecei.tohoku.ac.jp/local/handouts/2015/misc/misc-20151019-aki-s_eng.pdf]]
-- 研究室の計算機環境,サーバへのログイン,Python の実行,virtualenv,Jupyter
-- (付録) tmux, linux コマンド
- コードのアップロード方法(how to upload your source codes) [[slide(ja)>http://www.cl.ecei.tohoku.ac.jp/local/handouts/2015/misc/misc-20151019-aki-s_sub.pdf]], [[slide(en)>http://www.cl.ecei.tohoku.ac.jp/local/handouts/2015/misc/misc-20151019-aki-s_sub_eng.pdf]]
*** 解いた問題 [#n0e7addf]
- 000, 001
*** Tips [#w77dbf0e]
- インデントは4スペース (ソフトタブ)
-- エディタで Tab キーを押したときに '\t' ではなく半角スペース×4によるインデントが挿入されるように各自設定
- 変数名関数名を,キーワードや組み込みの関数名とぶつけない
-- [[Keywords in Python>http://zetcode.com/lang/python/keywords/]]
-- [[Built-in Functions — Python 2.7.10 documentation>https://docs.python.org/2/library/functions.html]]
- 組み込みのメソッドや関数の仕様の確認方法
-- [[Python 2.7.10 documentation>https://docs.python.org/2/index.html]] を読む
--- ''困ったことがあったらまず公式ドキュメントを確認''
-- [[Dash for OS X>https://kapeli.com/dash]] (documentation をローカルで読む.有償ソフト.)
-- interactive shell (ipython) 上で `help(command)`, `command?` (e.g. `str.join?`)
-- Jupyter 上でメソッドにカーソルを合わせて Shift+Tab
- `dir()` : module, class, object に紐づく attribute (プロパティ,メソッド) の一覧を表示
- `dir()` : module, class, object に紐づく attribute (プロパティ,メソッド) の一覧を表示.
- `type()`: “型” を表示.
- tuple は immutable
-- オブジェクト自体が mutable/immutable なことと,そのオブジェクトを入れた変数が再代入可能/不可能なことを混同しない.
 In [1]: a = (1,2)
 In [2]: b = (3,4)
 In [3]: c = a
 In [4]: a += b # a に新しいオブジェクト (1,2)+(3,4) = (1,2,3,4) を再代入
 In [5]: a
 Out[5]: (1, 2, 3, 4)
 In [6]: c
 Out[6]: (1, 2) # c が指すメモリ領域は [1] で確保されたもの
- enumerate(): list を添え字付きで走査するときに便利
-- [[2. Built-in Functions — Python 2.7.10 documentation#enumerate>https://docs.python.org/2/library/functions.html#enumerate]]
-- `enumerate(l, start=1)` とすると添え字が1はじまりになる.
- range はリストそのもの, xrange はイテレータ (のようなもの, xrange 型オブジェクト) を返す.
-- リストそのものが欲しい場合以外, xrange を使えば良い.
-- 3系では range の挙動が 2系の xrange と同様?
- 代入は文. 式ではない. (値を返さない)
-- `y = x = 1` は valid だが, C言語のように 右結合的に順に評価 (`y = (x = 1)`) しているわけではなく, `y = x = a` という気泡が用意されている (実際, Python で `y = (x = 1)` はエラーする)
-- なお比較演算子も同様の記法がサポートされている e.g. `0 < x < 5` (これは `0 < x and x < 5` と等価. ただし `x` の評価回数で損)
--- https://docs.python.org/2.7/reference/expressions.html#binary-arithmetic-operations
- ソースファイルのエンコード宣言 (マジックコメント?): `# -*- coding: utf-8 -*-`
-- `-*-` をつけておくと Emacs フレンドリー?
- ドキュメンテーション文字列 (docstring) は reStructuredText 形式で書く
-- [[Sphinx 1.3.2 ドキュメント>http://docs.sphinx-users.jp/]]
-- [[reStructuredText入門 — Sphinx 1.3.2 ドキュメント>http://docs.sphinx-users.jp/rest.html]]
-- 例
 def function1(self, arg1, arg2, arg3):
     """説明書き
     :param int | float arg1: なんとか
     :param int | float arg2: かんとか
     :param int | float arg3: ほげ
     :return: arg1/arg2 +arg3
     :rtype: int | float
     ”””

* 過去の記録 [#lf2a2e7f]
- [[2015年度>../../]]
- [[2014年度>../../2014]]
- [[2013年度>../../2013]]
- [[2012年度>../../2012]]
- [[2011年度>../../2011]]
- [[2010年度>../../2010]]
- [[2015年度>Learning Programming/2015]]
- [[2014年度>Learning Programming/2014]]
- [[2013年度>Learning Programming/2013]]
- [[2012年度>Learning Programming/2012]]
- [[2011年度>Learning Programming/2011]]
- [[2010年度>Learning Programming/2010]]


© Inui-Suzuki Laboratory 2010-2018 All rights reserved.
Recent Changes
2020-06-25 2020-06-17 2020-06-16 2020-06-10 2020-06-08 2020-06-01 2020-04-10 2020-04-02 2020-02-22 2019-06-07 2019-06-06 2019-05-23 2019-04-19 2019-04-08 2019-04-07 2019-04-03 2019-04-01 2019-03-08 2019-03-07 2019-03-01 2019-02-28 2019-02-15 2019-02-14 2019-02-13 2019-02-12 2019-02-08 2019-02-07 2019-02-06 2019-02-05 2019-02-04 2019-02-01 2019-01-31 2019-01-30 2019-01-29 2019-01-28 2019-01-26 2019-01-25 2019-01-24 2019-01-23 2019-01-22 2019-01-19 2019-01-18 2019-01-17 2019-01-16 2019-01-15 2019-01-10 2019-01-09 2019-01-08 2019-01-07 2019-01-06 2019-01-04 2019-01-03 2018-12-27 2018-12-26 2018-12-25 2018-12-21 2018-12-20 2018-12-19 2018-12-18 2018-12-17 2018-12-16 2018-12-13 2018-12-12 2018-12-11 2018-12-10 2018-12-07 2018-12-06 2018-12-05 2018-12-04 2018-12-03 2018-12-02 2018-11-29 2018-11-28