デジタル信号処理

[] [] []


このページは、デジタル信号処理およびその周辺で疑問に思ったことのよせ集めです

 1. AD

AD変換器の有効ビット数

 

2. フィルタ

オシロスコープの立ち上がり時間と帯域幅

S/N比を最大にする受信フィルタの帯域幅

移動平均と指数平滑

CICフィルタ

低レートのCICフィルタ

高レートのCICフィルタ

チャープ信号によるパルス圧縮

補足 - ガウシアンフィルタの直列接続

補足 - マッチドフィルタ

 

3. 逆行列の数値計算

記号の定義

連立1次方程式の解法

最小2乗法

修正Cholesky分解

Cholesky分解

QR分解(Gram-Schmidtの直交化法による)

QR分解(Givens回転による、実数の場合)

QR分解(Givens回転による、複素数の場合)

QR分解(Householder変換による)

補足 - 適応フィルタ

 

4. LFSR

予備知識としてのGF(2**n)

LFSRはどこにXORを付けると周期が2**n-1になるのか

原始多項式の個数

M系列はなぜ自己相関が高いのか

M系列にはオールゼロ以外のすべてのnビット列が1ずつ登場する

CRCはどんなビット誤りを検出できるのか

CRCの生成回路

補足 - 繰り返しのない列

 

5. ディープラーニングの計算

ディープラーニングのぎもん

DLと最小2乗法

バックプロパゲーション

活性化関数とコスト関数

CNNの計算量

ハイパーパラメータ

補足 - 数列問題の万能の解法


[] [] []

最終更新 2023.05.06 zakii