RTX3090比較

RTX3090を搭載したサーバーが研究室に来たのでyolov5の学習をしてみてGTX 1080TIと比較してみました. 実験設定として, batch 64, epoch1, GPU4基でData Paralelをしてます.

RTX 3090サーバー(RTX 3090×4)

Evaluating pycocotools mAP... saving runs/train/exp15/_predictions.json...
loading annotations into memory...
Done (t=0.38s)
creating index...
index created!
Loading and preparing results...
DONE (t=8.12s)
creating index...
index created!
Running per image evaluation...
Evaluate annotation type *bbox*
DONE (t=67.78s).
Accumulating evaluation results...
DONE (t=17.63s).
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.003
 Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.007
 Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.001
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.001
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.004
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.003
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.018
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.041
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.046
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.007
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.040
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.075
real    16m15.569s
user    68m18.520s
sys     5m14.403s

1080TIサーバー(1080TI × 4)

Evaluating pycocotools mAP... saving runs/train/exp11/_predictions.json...
loading annotations into memory...
Done (t=0.64s)
creating index...
index created!
Loading and preparing results...
DONE (t=9.76s)
creating index...
index created!
Running per image evaluation...
Evaluate annotation type *bbox*
DONE (t=108.04s).
Accumulating evaluation results...
DONE (t=23.68s).
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.002
 Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.006
 Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.001
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.001
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.003
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.003
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.020
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.043
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.048
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.006
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.038
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.081
real    24m17.456s
user    105m34.200s
sys     10m56.112s

RTX 3090サーバーかなり早いです.

参考までにRTX 3090でbatch 320で計算させてみました。

Evaluating pycocotools mAP... saving runs/train/exp12/_predictions.json...
loading annotations into memory...
Done (t=1.05s)
creating index...
index created!
Loading and preparing results...
DONE (t=8.51s)
creating index...
index created!
Running per image evaluation...
Evaluate annotation type *bbox*
DONE (t=73.40s).
Accumulating evaluation results...
DONE (t=20.28s).
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.002
 Average Precision  (AP) @[ IoU=0.50      | area=   all | maxDets=100 ] = 0.005
 Average Precision  (AP) @[ IoU=0.75      | area=   all | maxDets=100 ] = 0.001
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.001
 Average Precision  (AP) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.002
 Average Precision  (AP) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.002
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=  1 ] = 0.015
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets= 10 ] = 0.031
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=   all | maxDets=100 ] = 0.037
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= small | maxDets=100 ] = 0.005
 Average Recall     (AR) @[ IoU=0.50:0.95 | area=medium | maxDets=100 ] = 0.033
 Average Recall     (AR) @[ IoU=0.50:0.95 | area= large | maxDets=100 ] = 0.061
real    11m47.344s
user    66m23.625s
sys     6m45.271s

メモリ24GBの暴力.

P.S サーバー室にいると目がパサパサします.

DELL ゲーミングPC ALIENWARE m17 R2が届きました

先日申し込んでいた「デル アンバサダー プログラム」のモニターに当選して、待ちに待っていた最強ゲーミングPC ALIENWAREが到着しました!

f:id:satoharu25:20201108210653j:plain
開封の儀の瞬間

すごい...!きれい...! 早速開けてみる. f:id:satoharu25:20201108211934j:plain

はいかっこいい、美しい、画面がキレイ、文句なし。これぞALIENWARE。 旧型のALIENWAREを日頃使っていますが, 画質が大幅に向上していることが一番素直にうれしかったです。 ALIEN君も可愛いくてこれぞALIENWAREって感じです!

今日は諸々のset upを行いました。実は旧型ALIENWAREはWindowsからCent OS -> Ubuntulinux系のOSに変えてしまったのでWindowsを触るのは4年ぶりです。 日頃Macでの開発なのでどうしてもUnix系が使いやすいんです...!ごめんなさい笑

そうは言っても、昨今 Windows Subsystem for Linux、通称WSLが有名なので僕もインストールしてみました。

docs.microsoft.com

特に難しい事はありませんでした。最初からALIENWAREにPower Shellが入っているのは良いですね! 構築中に気付いたんですが、キーボードが圧倒的に打ちやすい。これは寿司打で3万円食べられる。そう確信しました。 WSLにはUbuntuを入れました。ここまで来れば日頃の開発環境を構築するのは簡単!

今日はALIEMWAREが届いたので、開封の日から開発環境の構築までを行いました。全体的に画面がキレイになって目に優しい感じがするのはとてもうれしかったです。 また後日Pyenv + pytorch + VScodeの環境構築をお送りしたいと思います。

Adversarial Examples

MADRY, Aleksander, et al. Towards deep learning models resistant to adversarial attacks. arXiv preprint arXiv:1706.06083, 2017.(引用数1482)

*この記事は2020年4月17日に行った深層学習セミナーをもとに作成してます.

どういうもの

  • NNに対する敵対的攻撃の新手法の開発とその攻撃手法を用いた防御策の提案.

敵対的摂動(Adversarial Perbutations)と敵対的データ(Adversarial Examples )

(*1)より

f:id:satoharu25:20200419114025p:plain

高い正解率(Acuuracy)を出す学習済みNNに対して、例えば画像では人間の目では何も変化していないような画像を入力したときに、出力クラスを間違えてしまうような事象が確認されている.

f:id:satoharu25:20200419114025p:plain

NNに対する攻撃手法とそれに対する防御策の図.

先行研究と並べて何がすごい?

これまでの攻撃手法と防御策

  • 既存の攻撃手法は1階の勾配を用いてone stepでAdversarial Examplesを探索.

  • 見つけたAdversarial Examplesを学習データに加えて再学習を行う.

    例えば損失関数L(x,y)

  \alpha \in (0,1)\\
  \alpha L(x^{\rm{nat}},y)+(1-\alpha)L(x^{adv},y)

として学習する.

本論文での攻撃手法と防御策

  • 1階の勾配を用いてmulti stepでAdversarial Examplesを探索.

​ ->より強力なAdversarial Examplesを求めることができる.

  • 見つけたAdversarial Examplesのみで学習を行う。

技法や手法の肝

$\theta$をNeral Network(NN)のパラメータ,$(x,y)$をデータ,$L$を損失関数とする.NNの学習では

\min_{\theta} L(\theta,x,y)

の最小化問題を扱う.Adversarial Attackでは$S\subseteq \Rn$として

\max_{\delta\in S} L(\theta,x+\delta,y)

の最大化問題(入力xの近傍内という意味でinner maximization)を扱う.

Adversarial Attackに対してNNをロバストにするためには

\min_{\theta}\max_{\delta\in S}L(\theta,x+\delta,y)

の最大値最小化問題を扱う.

以上によりAdversarial AttackではL(\theta,x+\delta,y)をより大きくする\delta\in Sを探索するアルゴリズムが開発されている.既存のFast Gradient Sign Method(FGSM)(*2)でのadversarial examples x^{adv}の式は

x^{adv}:=x + \epsilon \space \rm{sgn} (\nabla_x L(\theta,x,y))

である.\rm{sgn}は符号関数を表す.今回のPGD攻撃では\epsilon近傍内でのx^{adv}を見つけるとき,

x^{t+1}=x^t+\alpha \space\rm{sgn}(\nabla_{x^t}L(\theta,x^t,y))\\
x^1\in B_{\epsilon}(x)

という更新式を用いてadversarial examplesを探索する.PGD攻撃のadversarial exampleは

x^{adv}:= x^N

である.(Nは更新回数).

実験とその他

2階以上の勾配情報は使わないのか.

SGDを代表とする勾配降下法では1階の勾配情報を用いているため,Adversarial Attackでは1階の勾配情報を用いれば十分.

パラメータ数の多いNN(表現能力の高いNN)はロバスト

f:id:satoharu25:20200419114940p:plain

下段のSimleはパラメータの少ないモデル,Wideはパラメータの多いモデルを表す.この結果から,パラメータ数の多いNNの方がよりロバストになることがわかる.またPGD攻撃を用いたAdversarial Trainingを受けたNNは既存の攻撃モデル(FGSM)に対してもロバストとなることがわかる.したがってPGD攻撃は強力な手法である.

PGD攻撃での更新式

x^{t+1}=x^t+\alpha \space\rm{sgn}(\nabla_{x^t}L(\theta,x^t,y))\\
x^1\in B_{\epsilon}(x)

で更新を行うと数列[tex:{xt}]が収束することが実験的にわかった.

f:id:satoharu25:20200419114839p:plain

上記の図の色は異なる初期点(20点)を表す.損失関数(Loss Value)はCross Entropy.fig1をみると初期点に関わらず,[tex:{xt}]が収束していることがわかる.またAdversarial trainingを行ったNNの方がより早く収束していることがわかる.

f:id:satoharu25:20200419114843p:plain 異なる初期点を[tex:105]個用意してPGD攻撃の更新式を収束するまで更新した結果の棒グラフである.赤色はAdversarial trainingを受けたNNで青色はStandard trainingを受けたNNである.Adversarial trainingを受けたNNの方がより値を集中させて収束していることがわかる.

PGD攻撃によるAdversarial Examplesの例

f:id:satoharu25:20200419115053p:plain

Reference

1:SZEGEDY, Christian, et al. Intriguing properties of neural networks. arXiv preprint arXiv:1312.6199*, 2013.

2:TRAMÈR, Florian, et al. The space of transferable adversarial examples. arXiv preprint arXiv:1704.03453*, 2017.

今後読むもの

TASHIRO, Yusuke; SONG, Yang; ERMON, Stefano. Output Diversified Initialization for Adversarial Attacks. arXiv preprint arXiv:2003.06878, 2020.https://arxiv.org/pdf/2003.06878.pdf

miplib 2017 Gurobi

miplib2017のベンチマークデータセットをgurobiで解きました.

MIPLIB 2017 – The Mixed Integer Programming Library

Statusがokなので解けているはずですがsolutionがなぜかerrorに...

速度計測する上では問題ないと思いますが不思議なバグなので確認が必要.

もしかしたらgurobi等の既存のソルバーでは解けない問題なのかも.(miplibってそういう思想だったはず?)

miplib2010よりもソルバー的に解くことが難しい問題が多いことがわかります.

---

使用した計算機

cpu:

Intel(R) Xeon(R) Platinum 8170 CPU @ 2.10GHz

メモリ:1TB

CPU(s):                104

On-line CPU(s) list:   0-103

Thread(s) per core:    2

Core(s) per socket:    26

Socket(s):             2

GPU: Geforce RTX2080ti 4枚

----- 

20スレッド指定で実行.3日くらいかかったので計算機に空きがあれば40コア実行をしてみたい.また今はgurobiのversionがv9.0.0なのでv9.0.1でも実行したい.

[satoharu@opt-cps results]$ cat benchmark.gurobi.20threads.10000s.res

----------------------------+----------------+----------------+------+---------+-------+--------+---------

Name                        |   Dual Bound   |  Primal Bound  | Gap% |  Nodes  |  Time | Status | Solution 

----------------------------+----------------+----------------+------+---------+-------+--------+---------

30n20b8                                   302              302    0.0       111       1       ok     error

50v-10                             3311.17998       3311.17998    0.0   1443261     360       ok     error

academictimetablesmall                      0                0    0.0     23418     896       ok     error

app1-2                                    -41              -41    0.0      5655     120       ok     error

assign1-5-8                               212              212    0.0   2654647     145       ok     error

atlanta-ip                         90.0098786       90.0098786    0.0     12434     598       ok     error

b1c1s1                               24544.25         24544.25    0.0    101493     495       ok     error

bab2                                   -1e+20            1e+20     --         0    1484    abort     error

bab6                              -284248.231      -284248.231    0.0      2656     601       ok     error

beasleyC3                                 754              754    0.0      2748       1       ok     error

binkar10_1                         6742.20002       6742.20002    0.0     10302       2       ok     error

blp-ar98                           6205.21471       6205.21471    0.0     18303      98       ok     error

blp-ic98                           4491.44758       4491.44758    0.0      5419      29       ok     error

bnatt400                                    1                1    0.0     26386     340       ok     error

bnatt500                                1e+20            1e+20     --     73699    1017       ok     error

bppc4-08                                   53               53    0.0   2400659     604       ok     error

brazil3                                    24               24    0.0      4360     179       ok     error

buildingenergy                     33283.8532       33283.8532    0.0      7847     222       ok     error

cbs-cta                                     0                0    0.0         0       1       ok     error

chromaticindex1024-7                        4                4    0.0         1     727       ok     error

chromaticindex512-7                         4                4    0.0         1     151       ok     error

cmflsp50-24-8-8                    55789389.9       55789389.9    0.0    131384     541       ok     error

CMS750_4                                  252              252    0.0         1       1       ok     error

co-100                             2639942.06       2639942.06    0.0    121860     619       ok     error

cod105                                    -12              -12    0.0         9      69       ok     error

comp07-2idx                                 6                6    0.0         1      52       ok     error

comp21-2idx                                74               74    0.0     62499    1969       ok     error

cost266-UUE                        25148940.6       25148940.6    0.0    193537     265       ok     error

cryptanalysiskb128n5obj14               1e+20            1e+20     --       163    3343       ok     error

cryptanalysiskb128n5obj16                   0                0    0.0       199    3592       ok     error

csched007                                 351              351    0.0    114396     238       ok     error

csched008                                 173              173    0.0    243121      52       ok     error

cvs16r128-89                             -107              -97   10.3    104558   10000  stopped     error

dano3_3                            576.344633       576.344633    0.0        19      25       ok     error

dano3_5                            576.924916       576.924916    0.0       548      74       ok     error

decomp2                                  -160             -160    0.0         0       1       ok     error

drayage-100-23                     103333.874       103333.874    0.0         0       1       ok     error

drayage-25-23                      101282.647       101282.647    0.0         1       1       ok     error

dws008-01                          37412.6046       37412.6046    0.0    711658     573       ok     error

eil33-2                            934.007916       934.007916    0.0      3854       1       ok     error

eilA101-2                          880.920108       880.920108    0.0     27011    3440       ok     error

enlight_hard                               37               37    0.0         0       1       ok     error

ex10                                      100              100    0.0         0      21       ok     error

ex9                                        81               81    0.0         0       7       ok     error

exp-1-500-5-5                           65887            65887    0.0      2640       4       ok     error

fast0507                                  174              174    0.0      2138      22       ok     error

fastxgemm-n2r6s0t2                        230              230    0.0     39090       8       ok     error

fhnw-binpack4-4                         1e+20            1e+20     --  23940488     939       ok     error

fhnw-binpack4-48                            0                0    0.0      7210       2       ok     error

fiball                                    138              138    0.0        52       5       ok     error

gen-ip002                         -4783.73339      -4783.73339    0.0   4136295      43       ok     error

gen-ip054                          6840.96564       6840.96564    0.0  21047415     135       ok     error

germanrr                           47095869.6       47095869.6    0.0    108974    3073       ok     error

gfd-schedulen180f7d50m30k18                 1            1e+20     --        31     813  stopped     error

glass-sc                                   23               23    0.0    293996     331       ok     error

glass4                          1.2000126e+09    1.2000126e+09    0.0    215469       9       ok     error

gmu-35-40                         -2406733.37      -2406733.37    0.0  29727161     523       ok     error

gmu-35-50                              -1e+20            1e+20     --         0    2059    abort     error

graph20-20-1rand                           -9               -9    0.0    408827     302       ok     error

graphdraw-domain                        19686            19686    0.0    328576      34       ok     error

h80x6320d                          6382.09904       6382.09904    0.0     10811      14       ok     error

highschool1-aigio                           0                0    0.0       114    3604       ok     error

hypothyroid-k1                          -2851            -2851    0.0         1      15       ok     error

ic97_potential                           3942             3942    0.0    735776     216       ok     error

icir97_tension                           6375             6375    0.0    346211      98       ok     error

irish-electricity                  3723497.59       3723497.59    0.0    392583     682       ok     error

irp                                12159.4928       12159.4928    0.0       455       1       ok     error

istanbul-no-cutoff                 204.081749       204.081749    0.0       135      20       ok     error

k1mushroom                              -3288            -3288    0.0         1     154       ok     error

lectsched-5-obj                            24               24    0.0      2483     299       ok     error

leo1                                404227535        404227536    0.0     47440      76       ok     error

leo2                                404077441        404077441    0.0    136843     214       ok     error

lotsize                               1480195          1480195    0.0    439652    2768       ok     error

mad                              0.0267998239     0.0267998239    0.0   8489200     188       ok     error

map10                                    -495             -495    0.0      1369      38       ok     error

map16715-04                              -111             -111    0.0      1902      47       ok     error

markshare_4_0                               1                1    0.0     23091       1       ok     error

markshare2                                  1                1    0.0  89421176    4867       ok     error

mas74                              11801.1457       11801.1457    0.0   3662654      27       ok     error

mas76                              40005.0541       40005.0541    0.0    471186       3       ok     error

mc11                                    11689            11689    0.0      2610       7       ok     error

mcsched                                211913           211913    0.0     11258       7       ok     error

mik-250-20-75-4                        -52301           -52301    0.0       406       1       ok     error

milo-v12-6-r2-40-1                 326481.143       326481.143    0.0    213441     119       ok     error

momentum1                          109143.494       109143.494    0.0    254304     427       ok     error

mushroom-best                     0.055333755      0.055333755    0.0      8916      25       ok     error

mzzv11                                 -21718           -21718    0.0         1       5       ok     error

mzzv42z                                -20540           -20540    0.0         1       2       ok     error

n2seq36q                                52200            52200    0.0         1       4       ok     error

n3div36                                130800           130800    0.0    191440     241       ok     error

n5-3                                     8105             8105    0.0      1862       2       ok     error

neos-1122047                              161              161    0.0         1       5       ok     error

neos-1171448                             -309             -309    0.0         0       2       ok     error

neos-1171737                             -195             -195    0.0         1       6       ok     error

neos-1354092                               46               46    0.0    241811    4916       ok     error

neos-1445765                           -17783           -17783    0.0      3230      13       ok     error

neos-1456979                              176              176    0.0       280       5       ok     error

neos-1582420                               91               91    0.0       562       5       ok     error

neos-2075418-temuka                     1e+20            1e+20     --         0     130       ok     error

neos-2657525-crna                    1.810748         1.810748    0.0  19957509     788       ok     error

neos-2746589-doon                      2008.2           2008.2    0.0       429      21       ok     error

neos-2978193-inde                 -2.38806169      -2.38806169    0.0    134345      44       ok     error

neos-3004026-krka                           0                0    0.0      4197      10       ok     error

neos-3024952-loue                       26756            26756    0.0    253917     138       ok     error

neos-3046615-murg                      -1e+20            1e+20     --         0     871    abort     error

neos-3083819-nubu                     6307996          6307996    0.0         1       1       ok     error

neos-3216931-puriri                     71320            71320    0.0      2683     149       ok     error

neos-3381206-awhea                        453              453    0.0      2449       5       ok     error

neos-3402294-bobin                    0.06725          0.06725    0.0         1       9       ok     error

neos-3402454-bohle                     -1e+20            1e+20     --         0      85  stopped     error

neos-3555904-turama                     -34.7            -34.7    0.0      2581     508       ok     error

neos-3627168-kasai                  988585.62        988585.62    0.0  15882543    2085       ok     error

neos-3656078-kumeu                   -13172.2         -13172.2    0.0    795334    2079       ok     error

neos-3754480-nidda                 12941.6794       12941.6794    0.0   3147008     467       ok     error

neos-3988577-wolgan                     1e+20            1e+20     --      2452      61       ok     error

neos-4300652-rahue                     2.1416           2.1416    0.0         7      27       ok     error

neos-4338804-snowy                       1471             1471    0.0  12181299     684       ok     error

neos-4387871-tavua                   33.38473         33.38473    0.0     47850    1096       ok     error

neos-4413714-turia                  45.370167        45.370167    0.0         1      20       ok     error

neos-4532248-waihi                       61.6             61.6    0.0      1170     700       ok     error

neos-4647030-tutaki                27265.1927        27271.257    0.0         7      50  stopped     error

neos-4722843-widden                25009.6634       25009.6634    0.0         1      52       ok     error

neos-4738912-atrato                 283627957        283627957    0.0     10741      24       ok     error

neos-4763324-toguru                1613.03869       1613.03869    0.0      2205     237       ok     error

neos-4954672-berkel                   2612710          2612710    0.0   9689832    2566       ok     error

neos-5049753-cuanza                       561              572    2.0        25     178  stopped     error

neos-5052403-cygnet                       182              182    0.0         1     787       ok     error

neos-5093327-huahum                      6260             6260    0.0    158401     626       ok     error

neos-5104907-jarama                916.965336            1e+20     --        38     900  stopped     error

neos-5107597-kakapo                      3645             3645    0.0     41402      26       ok     error

neos-5114902-kasavu                644.407205              658    2.1         3     788  stopped     error

neos-5188808-nattai               0.110284489      0.110284489    0.0     36373     317       ok     error

neos-5195221-niemur              0.0038354964     0.0038354964    0.0     22627     571       ok     error

neos-631710                               203              203    0.0      8400     608       ok     error

neos-662469                            184380           184380    0.0      3294      58       ok     error

neos-787933                                30               30    0.0         0       1       ok     error

neos-827175                         112.00152        112.00152    0.0         0       1       ok     error

neos-848589                         2031.2306        2422.2342   19.2       171      83  stopped     error

neos-860300                              3201             3201    0.0      2906       5       ok     error

neos-873061                        113.656238       113.656239    0.0     62155     355       ok     error

neos-911970                             54.76            54.76    0.0     52352       7       ok     error

neos-933966                               318              318    0.0         1       5       ok     error

neos-950242                                 4                4    0.0         1       4       ok     error

neos-957323                       -237.756681      -237.756681    0.0         1      14       ok     error

neos-960392                              -238             -238    0.0         1       3       ok     error

neos17                            0.150002577      0.150002577    0.0      6010       1       ok     error

neos5                                      15               15    0.0    214125      10       ok     error

neos8                                   -3719            -3719    0.0         1       1       ok     error

neos859080                              1e+20            1e+20     --        99       1       ok     error

net12                                     214              214    0.0       754      30       ok     error

netdiversion                              242              242    0.0       177      65       ok     error

nexp-150-20-8-5                           231              231    0.0     23354     685       ok     error

ns1116954                                   0                0    0.0         0       5       ok     error

ns1208400                                   2                2    0.0         1      16       ok     error

ns1644855                         -1524.33333      -1524.33333    0.0         1     299       ok     error

ns1760995                         -549.214385      -549.214385    0.0         1     977       ok     error

ns1830653                               20622            20622    0.0      8055      19       ok     error

ns1952667                                   0                0    0.0      6914      15       ok     error

nu25-pr12                               53905            53905    0.0      5498       1       ok     error

nursesched-medium-hint03           114.999997       114.999997    0.0      5033     791       ok     error

nursesched-sprint02                        58               58    0.0         1       5       ok     error

nw04                                    16862            16862    0.0        24       3       ok     error

opm2-z10-s4                            -33269           -33269    0.0      4411     661       ok     error

p200x1188c                              15078            15078    0.0         1       1       ok     error

peg-solitaire-a3                            1                1    0.0      3672     125       ok     error

pg                                -8674.34261      -8674.34261    0.0      3511       2       ok     error

pg5_34                            -14339.3534      -14339.3534    0.0     17711       6       ok     error

physiciansched3-3                  2623271.33       2623271.33    0.0      8122     977       ok     error

physiciansched6-2                       49324            49324    0.0         1       1       ok     error

piperout-08                            125055           125055    0.0         1       2       ok     error

pk1                                        11               11    0.0    232890       5       ok     error

proteindesign121hz512p9                  1454             1504    3.4      2408     237  stopped     error

proteindesign122trx11p8                  1736             1759    1.3      3283     111  stopped     error

qap10                                     340              340    0.0        26      29       ok     error

radiationm18-12-05                      17566            17566    0.0   6209815    1547       ok     error

radiationm40-10-02                     -1e+20            1e+20     --         0    1920    abort     error

rail01                            -70.5699643      -70.5699643    0.0         1     235       ok     error

rail02                            -200.449908      -200.449908    0.0       708    5662       ok     error

rail507                                   174              174    0.0      1475      46       ok     error

ran14x18-disj-8                          3712             3712    0.0   1688346     133       ok     error

rd-rplusc-21                       165395.275       165395.275    0.0     45554     375       ok     error

reblock115                        -36800603.2      -36800603.2    0.0   2332001     212       ok     error

rmatr100-p10                              423              423    0.0      1576       3       ok     error

rmatr200-p5                              4521             4521    0.0     23350     772       ok     error

rocI-4-11                            -6020203         -6020203    0.0     20609      16       ok     error

rocII-5-11                        -6.67550474      -6.67550473    0.0    168957    1188       ok     error

rococoB10-011000                        19449            19449    0.0   1065534    3676       ok     error

roi2alpha3n4                      -63.2084921      -63.2084921    0.0     21058     100       ok     error

roi5alpha10n8                     -58.5544977      -50.8910045   15.1    183530    1937  stopped     error

roll3000                                12890            12890    0.0      5018       8       ok     error

s100                              -0.17015152     -0.169723528    0.3      6475   10001  stopped     error

s250r10                          -0.171780486     -0.171780483    0.0   4264182    2568       ok     error

satellites2-40                            -19              -19    0.0       900     486       ok     error

satellites2-60-fs                         -19              -19    0.0         1     485       ok     error

savsched1                              3212.7           3217.7    0.2       675     173  stopped     error

sct2                              -230.989162      -230.989162    0.0    106045      56       ok     error

seymour                                   423              423    0.0    590549    2173       ok     error

seymour1                           410.763701       410.763701    0.0      3369      13       ok     error

sing326                                -1e+20            1e+20     --         0    1096    abort     error

sing44                                 -1e+20            1e+20     --         0     595    abort     error

snp-02-004-104                         -1e+20            1e+20     --         0     151    abort     error

sorrell3                                  -16              -16    0.0    386661    9297       ok     error

sp150x300d                                 69               69    0.0         1       1       ok     error

sp97ar                              660705646        660705646    0.0     79944     353       ok     error

sp98ar                              529740623        529740623    0.0     14244     152       ok     error

splice1k1                               -1481             -394  275.9      2332    2369  stopped     error

square41                                   15               15    0.0      3215     669       ok     error

square47                                   16               16    0.0      5480    2631       ok     error

supportcase10                               7                7    0.0       500    2819       ok     error

supportcase12                          -1e+20            1e+20     --         0     316    abort     error

supportcase18                          -1e+20            1e+20     --         0     428    abort     error

supportcase19                        12677206            1e+20     --         7    4062  stopped     error

supportcase22                             1.4            1e+20     --        15     664  stopped     error

supportcase26                      1745.12418       1745.12418    0.0    379068      71       ok     error

supportcase33                            -345             -345    0.0      5196      12       ok     error

supportcase40                      24256.3123       24256.3123    0.0     62608      76       ok     error

supportcase42                      7.75863072       7.75863072    0.0    105376     193       ok     error

supportcase6                       51906.4669       51906.4669    0.0     17823     252       ok     error

supportcase7                      -1132.22317      -1132.22317    0.0         1       7       ok     error

swath1                             379.071296       379.071296    0.0      1822       2       ok     error

swath3                             397.761344       397.761344    0.0     10589       4       ok     error

tbfp-network                       24.1631944       24.1631944    0.0        88      86       ok     error

thor50dday                              40417            40417    0.0     90425    1330       ok     error

timtab1                                764772           764772    0.0     63537      23       ok     error

tr12-30                                130596           130596    0.0    136617      22       ok     error

traininstance2                          71820            71820    0.0    282648      23       ok     error

traininstance6                          28290            28290    0.0     14255       2       ok     error

trento1                               5189487          5189487    0.0      9537     123       ok     error

triptim1                              22.8681          22.8681    0.0         1      31       ok     error

uccase12                           11507.4051       11507.4051    0.0    291697      83       ok     error

uccase9                            10993.1314       10993.1314    0.0    121846    1126       ok     error

uct-subprob                               314              314    0.0    121082     238       ok     error

unitcal_7                          19635558.2       19635558.2    0.0         1      15       ok     error

var-smallemery-m6j6                  -149.375         -149.375    0.0    417447     106       ok     error

wachplan                                   -8               -8    0.0     82315     113       ok     error

----------------------------+----------------+----------------+------+---------+-------+--------+---------

 

solved/stopped/failed: 0/0/235

 

@03 MIPLIB script version 

@02 timelimit: 10000

@01 Gurobi(9.0.0)

miplib2010-1.1.3 cplexとgurobi

miplib2010-1.1.3のベンチマークデータセットをgurobiとcplexを使用して解いてみた.

miplib2010.zib.de

 

使用した計算機

cpu:

Intel(R) Xeon(R) Platinum 8170 CPU @ 2.10GHz

メモリ:1TB

CPU(s):                104

On-line CPU(s) list:   0-103

Thread(s) per core:    2

Core(s) per socket:    26

Socket(s):             2

GPU: Geforce RTX2080ti 4枚

------------------

cplex.20コアで計算.

[satoharu@opt-cps results]$ cat benchmark.cplex.res 

----------------------------+----------------+----------------+------+---------+-------+--------+---------

Name                        |   Dual Bound   |  Primal Bound  | Gap% |  Nodes  |  Time | Status | Solution 

----------------------------+----------------+----------------+------+---------+-------+--------+---------

30n20b8                                   302              302    0.0         0       4       ok        ok

acc-tight5                                  0                0    0.0       141       3       ok        ok

aflow40b                                 1168             1168    0.0     63603      23       ok        ok

air04                                   56137            56137    0.0       522       3       ok        ok

app1-2                                    -41              -41    0.0         0      15       ok        ok

ash608gpia-3col                         1e+20            1e+20     --         0       1       ok        --

bab5                               -106411.84       -106411.84    0.0     24557     115       ok        ok

beasleyC3                                 754              754    0.0      4903       6       ok        ok

biella1                            3065005.78       3065005.78    0.0      8650      51       ok        ok

bienst2                                  54.6             54.6    0.0     73794      12       ok        ok

binkar10_1                         6742.20002       6742.20002    0.0      2067       1       ok        ok

bley_xl1                                  190              190    0.0         0       7       ok        ok

bnatt350                                    0                0    0.0      7622     120       ok        ok

core2536-691                              689              689    0.0      7685      27       ok        ok

cov1075                                    20               20    0.0       963       1       ok        ok

csched010                                 408              408    0.0     86716     107       ok        ok

danoint                            65.6666667       65.6666667    0.0    456447      63       ok        ok

dfn-gwin-UUM                            38752            38752    0.0     16867       6       ok        ok

eil33-2                            934.007916       934.007916    0.0      2442       7       ok        ok

eilB101                            1216.92017       1216.92017    0.0      1695       9       ok        ok

enlight13                                  71               71    0.0         0       1       ok        ok

enlight14                               1e+20            1e+20     --         0       1       ok        --

ex9                                        81               81    0.0         0       2       ok        ok

glass4                          1.2000126e+09    1.2000126e+09    0.0    403586      30       ok        ok

gmu-35-40                         -2406733.37      -2406733.37    0.0   2881795     155       ok        ok

iis-100-0-cov                              29               29    0.0    182212      74       ok        ok

iis-bupa-cov                               36               36    0.0    375814     206       ok        ok

iis-pima-cov                               33               33    0.0     19177      35       ok        ok

lectsched-4-obj                             4                4    0.0      4758       1       ok        ok

m100n500k4r1                              -25              -25    0.0    130328       7       ok        ok

macrophage                                374              374    0.0       109       3       ok        ok

map18                                    -847             -847    0.0       885      25       ok        ok

map20                                    -922             -922    0.0       772      16       ok        ok

mcsched                                211913           211913    0.0     25407      12       ok        ok

mik-250-1-100-1                        -66729           -66729    0.0     25569       1       ok        ok

mine-166-5                         -566395708       -566395708    0.0       501       1       ok        ok

mine-90-10                         -784302338       -784302338    0.0     42243       8       ok        ok

msc98-ip                             19839497         19839497    0.0     10287     249       ok        ok

mspp16                                 -1e+20                0     --         0     163  stopped        ok

mzzv11                                 -21718           -21718    0.0        88       9       ok        ok

n3div36                                130800           130800    0.0     26292      19       ok        ok

n3seq24                                 52200            52200    0.0         0      18       ok        ok

n4-3                                     8993             8993    0.0      1327       6       ok        ok

neos-1109824                              378              378    0.0      1239       1       ok        ok

neos-1337307                          -202319          -202319    0.0       210       2       ok        ok

neos-1396125                       3000.04534       3000.04534    0.0      7461       2       ok        ok

neos13                            -95.4748066      -95.4748066    0.0     12820      14       ok        ok

neos-1601936                                3                3    0.0       585      37       ok        ok

neos18                                     16               16    0.0      4471       1       ok        ok

neos-476283                        406.363207       406.363207    0.0      2041      46       ok        ok

neos-686190                              6730             6730    0.0      7230       6       ok        ok

neos-849702                                 0                0    0.0     36424      18       ok        ok

neos-916792                        31.8703984       31.8703984    0.0    136353      39       ok        ok

neos-934278                               260              260    0.0         0      78       ok        ok

net12                                     214              214    0.0       194      33       ok        ok

netdiversion                              242              242    0.0        39      73       ok        ok

newdano                            65.6666667       65.6666667    0.0   1892002     111       ok        ok

noswot                                    -41              -41    0.0    129649       3       ok        ok

ns1208400                                   2                2    0.0      6893      64       ok        ok

ns1688347                                  27               27    0.0       204       4       ok        ok

ns1758913                         -1454.67176      -1454.67176    0.0         0      22       ok        ok

ns1766074                               1e+20            1e+20     --    790010      25       ok        --

ns1830653                               20622            20622    0.0     12967      18       ok        ok

opm2-z7-s2                             -10280           -10280    0.0      2170      15       ok        ok

pg5_34                            -14339.3534      -14339.3534    0.0      5708       4       ok        ok

pigeon-10                               -9000            -9000    0.0         0       1       ok        ok

pw-myciel4                                 10               10    0.0      7680       8       ok        ok

qiu                               -132.873137      -132.873137    0.0      1884       1       ok        ok

rail507                                   174              174    0.0      6332      10       ok        ok

ran16x16                                 3823             3823    0.0     29309       4       ok        ok

reblock67                         -34630648.4      -34630648.4    0.0    101160      18       ok        ok

rmatr100-p10                              423              423    0.0       746       3       ok        ok

rmatr100-p5                               976              976    0.0       636       6       ok        ok

rmine6                             -457.18614       -457.18614    0.0    188947      31       ok        ok

rocII-4-11                        -6.65563873      -6.65563873    0.0     51590      15       ok        ok

rococoC10-001000                        11460            11460    0.0     16123      13       ok        ok

roll3000                                12890            12890    0.0      4926       7       ok        ok

satellites1-25                             -5               -5    0.0      1585      11       ok        ok

sp98ic                              449144758        449144758    0.0     62608      49       ok        ok

sp98ir                              219676790        219676790    0.0      8572       8       ok        ok

tanglegram1                              5182             5182    0.0         0       1       ok        ok

tanglegram2                               443              443    0.0         0       1       ok        ok

timtab1                                764772           764772    0.0     75309      13       ok        ok

triptim1                              22.8681          22.8681    0.0         0      59       ok        ok

unitcal_7                          19635558.2       19635558.2    0.0      8834      44       ok        ok

vpphard                                     5                5    0.0      7290      86       ok        ok

zib54-UUE                          10334015.8       10334015.8    0.0     19726     217       ok        ok

----------------------------+----------------+----------------+------+---------+-------+--------+---------

 

solved/stopped/failed: 86/1/0

 

@03 MIPLIB script version 1.1.3

@02 timelimit: 10000

@01 CPLEX(12.10.0.0)

 

gurobi 20コアで計算.

[satoharu@opt-cps results]$ cat benchmark.gurobi.res 

----------------------------+----------------+----------------+------+---------+-------+--------+---------

Name                        |   Dual Bound   |  Primal Bound  | Gap% |  Nodes  |  Time | Status | Solution 

----------------------------+----------------+----------------+------+---------+-------+--------+---------

30n20b8                                   302              302    0.0       111       1       ok        ok

acc-tight5                                  0                0    0.0       412      13       ok        ok

aflow40b                                 1168             1168    0.0     66194      36       ok        ok

air04                                   56137            56137    0.0        78       3       ok        ok

app1-2                                    -41              -41    0.0      5655     104       ok        ok

ash608gpia-3col                         1e+20            1e+20     --         0       1       ok        --

bab5                               -106411.84       -106411.84    0.0         1      12       ok        ok

beasleyC3                                 754              754    0.0      2748       1       ok        ok

biella1                            3065005.78       3065005.78    0.0      7766      52       ok        ok

bienst2                                  54.6             54.6    0.0     84569       9       ok        ok

binkar10_1                         6742.20002       6742.20002    0.0     10302       2       ok        ok

bley_xl1                                  190              190    0.0         1       4       ok        ok

bnatt350                                    0                0    0.0      4627      55       ok        ok

core2536-691                              689              689    0.0       172      19       ok        ok

cov1075                                    20               20    0.0       825       1       ok        ok

csched010                                 408              408    0.0     92388     170       ok        ok

danoint                            65.6666667       65.6666667    0.0    885810     129       ok        ok

dfn-gwin-UUM                            38752            38752    0.0     90919      15       ok        ok

eil33-2                            934.007916       934.007916    0.0      3854       1       ok        ok

eilB101                            1216.92017       1216.92017    0.0      2529       8       ok        ok

enlight13                                  71               71    0.0         0       1       ok        ok

enlight14                               1e+20            1e+20     --         0       1       ok        --

ex9                                        81               81    0.0         0       4       ok        ok

glass4                          1.2000126e+09    1.2000126e+09    0.0    215469       8       ok        ok

gmu-35-40                         -2406733.37      -2406733.37    0.0  29727161     440       ok        ok

iis-100-0-cov                              29               29    0.0    118885     102       ok        ok

iis-bupa-cov                               36               36    0.0    235265     255       ok        ok

iis-pima-cov                               33               33    0.0     19865      42       ok        ok

lectsched-4-obj                             4                4    0.0         1       1       ok        ok

m100n500k4r1                              -25              -25    0.0    238508      59       ok        ok

macrophage                                374              374    0.0       365       1       ok        ok

map18                                    -847             -847    0.0       325      16       ok        ok

map20                                    -922             -922    0.0       793      16       ok        ok

mcsched                                211913           211913    0.0     11258       6       ok        ok

mik-250-1-100-1                        -66729           -66729    0.0      6725       1       ok        ok

mine-166-5                         -566395708       -566395708    0.0         1       1       ok        ok

mine-90-10                         -784302338       -784302338    0.0     55708      34       ok        ok

msc98-ip                             19839497         19839497    0.0      3034     102       ok        ok

mspp16                                 -1e+20            1e+20     --         0     119  stopped        --

mzzv11                                 -21718           -21718    0.0         1       4       ok        ok

n3div36                                130800           130800    0.0    191440     205       ok        ok

n3seq24                                 52200            52200    0.0         1      42       ok        ok

n4-3                                     8993             8993    0.0      8185      30       ok        ok

neos-1109824                              378              378    0.0      1230       1       ok        ok

neos-1337307                          -202319          -202319    0.0       569      10       ok        ok

neos-1396125                       3000.04534       3000.04534    0.0      2889       3       ok        ok

neos13                            -95.4748066      -95.4748066    0.0      2515      38       ok        ok

neos-1601936                                3                3    0.0         1      34       ok        ok

neos18                                     16               16    0.0      3561       1       ok        ok

neos-476283                        406.304361       406.588218    0.1        31      84  stopped        ok

neos-686190                              6730             6730    0.0      4074       3       ok        ok

neos-849702                                 0                0    0.0     15867      10       ok        ok

neos-916792                        31.8703984       31.8703984    0.0     66402      21       ok        ok

neos-934278                               260              260    0.0         1      18       ok        ok

net12                                     214              214    0.0       754      27       ok        ok

netdiversion                              242              242    0.0       177      58       ok        ok

newdano                            65.6666667       65.6666667    0.0   3330256     112       ok        ok

noswot                                    -41              -41    0.0    340756       5       ok        ok

ns1208400                                   2                2    0.0         1      15       ok        ok

ns1688347                                  27               27    0.0      3228       5       ok        ok

ns1758913                         -1454.67176      -1454.67176    0.0         1      18       ok        ok

ns1766074                               1e+20            1e+20     --    951073       7       ok        --

ns1830653                               20622            20622    0.0      8055      16       ok        ok

opm2-z7-s2                             -10280           -10280    0.0       571      14       ok        ok

pg5_34                            -14339.3534      -14339.3534    0.0     17711       6       ok        ok

pigeon-10                               -9000            -9000    0.0         2       1       ok        ok

pw-myciel4                                 10               10    0.0    287645      46       ok        ok

qiu                               -132.873137      -132.873137    0.0      4789       1       ok        ok

rail507                                   174              174    0.0      1475      45       ok        ok

ran16x16                           3822.99996       3822.99996    0.0     19236       5       ok        ok

reblock67                         -34630648.4      -34630648.4    0.0     43200       8       ok        ok

rmatr100-p10                              423              423    0.0      1576       4       ok        ok

rmatr100-p5                               976              976    0.0       979       7       ok        ok

rmine6                             -457.18614       -457.18614    0.0    218912      29       ok        ok

rocII-4-11                        -6.65275578      -6.65275578    0.0     11383      36       ok        ok

rococoC10-001000                        11460            11460    0.0     32957      37       ok        ok

roll3000                                12890            12890    0.0      5018       7       ok        ok

satellites1-25                             -5               -5    0.0       871      15       ok        ok

sp98ic                              449144758        449144758    0.0      5863      23       ok        ok

sp98ir                              219676790        219676790    0.0      2396       7       ok        ok

tanglegram1                              5182             5182    0.0        17       4       ok        ok

tanglegram2                               443              443    0.0         1       1       ok        ok

timtab1                                764772           764772    0.0     63537      22       ok        ok

triptim1                              22.8681          22.8681    0.0         1      27       ok        ok

unitcal_7                          19635558.2       19635558.2    0.0         1      16       ok        ok

vpphard                                     5                5    0.0     14387     128       ok        ok

zib54-UUE                          10334015.8       10334015.8    0.0     17583      44       ok        ok

----------------------------+----------------+----------------+------+---------+-------+--------+---------

 

solved/stopped/failed: 85/2/0

 

@03 MIPLIB script version 1.1.3

@02 timelimit: 10000

@01 Gurobi(9.0.0)

 

すごく早い?

位相幾何学[CW複体]

こんにちは.

大学院試験があったのでしばらくできていなかった位相幾何学セミナーを試験後久しぶりに行いました.試験明けあってかしばらく期間が空いたからか内容が”位相”のみでした.嬉しい(??).

 

homology#2.pdf - Google ドライブ

 

CW複体の導入が今回のセミナーの目標でした.CW複体を導入するために"弱位相
"という概念を導入しました.実質この弱位相という性質を理解するためのセミナーでした.理解できたのか????途中で図を描いて考える場面があったので幾何学だなぁ(小並感)と感じました.

今後もこのセミナーを通して位相幾何学の初歩は理解したいです.

 

 

九州大学数理学府大学院試験(2019年基礎問題)

こんにちは.

やっと院試が終わりました。。。

2019年度の基礎問題の解答を作成したので掲載します.

 

2019_ans.pdf - Google ドライブ

 

 

線形代数むずいですね!

なお[2]は完全な解答が用意できているのでそれを掲載する予定です。(2019/08/23掲載完了)

 

それではこれからの研究生活頑張りましょう!