デジタル信号処理
[←] [↑] [→]
このページは、デジタル信号処理およびその周辺で疑問に思ったことのよせ集めです
1. AD変換
AD変換器の有効ビット数
2. フィルタ
オシロスコープの立ち上がり時間と帯域幅
S/N比を最大にする受信フィルタの帯域幅
移動平均と指数平滑
CICフィルタ
低レートのCICフィルタ
高レートのCICフィルタ
チャープ信号によるパルス圧縮
補足 - ガウシアンフィルタの直列接続
補足 - マッチドフィルタ
3. 逆行列の数値計算
記号の定義
連立1次方程式の解法
最小2乗法
修正Cholesky分解
Cholesky分解
QR分解(Gram-Schmidtの直交化法による)
QR分解(Givens回転による、実数の場合)
QR分解(Givens回転による、複素数の場合)
QR分解(Householder変換による)
補足 - 適応フィルタ
4. LFSR
予備知識としてのGF(2**n)
LFSRはどこにXORを付けると周期が2**n-1になるのか
原始多項式の個数
M系列はなぜ自己相関が高いのか
M系列にはオールゼロ以外のすべてのnビット列が1回ずつ登場する
CRCはどんなビット誤りを検出できるのか
CRCの生成回路
補足 - 繰り返しのない列
5. ディープラーニングの計算
ディープラーニングのぎもん
DLと最小2乗法
バックプロパゲーション
活性化関数とコスト関数
CNNの計算量
ハイパーパラメータ
補足 - 数列問題の万能の解法
最終更新 2023.05.06 zakii