タグ

ブックマーク / knowledge.sakura.ad.jp (11)

  • TrinoとIcebergでログ基盤の構築 | さくらのナレッジ

    はじめに 2023年10月5日(木)にTrino / Presto Conference Tokyo 2023 (Online)が開催されました。記事はイベントにて発表した内容をご紹介します。 社内の監視サーバについて さくらインターネットでは現在社内の各チームでPrometheus, Elastic Stack, Lokiなどの監視基盤を個別に運用しています。この状態では運用負荷が大きいためSRE室でログ基盤を提供することにより、運用の手間を減らすことや運用レベルを底上げしてコスト削減ができるのではないかと検討しています。既存のOSSでの運用も行ってみたものの、マルチテナント提供・ライセンス体系の問題など課題があったことからTrinoとIcebergでの開発を始めました。 Icebergとは Icebergはビッグデータ・データレイクを構築するためのストレージフォーマットです。データの

    TrinoとIcebergでログ基盤の構築 | さくらのナレッジ
    sh19910711
    sh19910711 2024/02/24
    "TrinoとIcebergが本当に高性能なため、書くコードが少なくなっているという印象 / manifest fileには実データへの参照のほかに、カラムごとの値の上限下限などの統計情報 / 性能チューニングもSQLから簡単に行える" / 2023
  • Whisperを使ったリアルタイム音声認識と字幕描画方法の紹介 | さくらのナレッジ

    OBS WebSocketの設定 OBSのWebSocket機能を有効にします。WebSocket機能は比較的新しい機能で、使ったことがない方も多いと思います。LAN内のコンピュータからOBSの各種プロパティを取得・変更できます。各種プログラミング言語から直接APIを呼べるので、「音声認識の結果を即時に画面に反映する」ような、頻繁に変更される値の更新に適しています。 設定方法は、OBSのメニューから「ツール」-「obs-websocket設定」をクリックし、出てきたダイアログの一番上のチェックボックス「WebSocketサーバーを有効にする」をオンにします。そして「パスワードを生成する」を押します。後述のプログラムで定数として使用します。これでWebSocket機能を使用できるようになります。 Pythonのプログラムから字幕変更 PythonのプログラムからOBSにWebSocketで接

    Whisperを使ったリアルタイム音声認識と字幕描画方法の紹介 | さくらのナレッジ
    sh19910711
    sh19910711 2023/03/11
    "音声認識の字幕描画: 文の区切り、終わりがわからない / VAD (Voice Activity Detection): 人間の声の区間の始まりと終わりを検出 + ノイズや環境音は無視してくれる / Silero VADをブラウザで動くようにした、ricky0123/VADを"
  • nginx向けのWebアプリケーションファイアウォールを試す | さくらのナレッジ

    ここで「ゾーン」はリクエスト中で検査対象となった部分を示しており、「ARGS」ならURLに与えられた引数(GETリクエストの引数)を示している(詳しいドキュメント)。また、この例ではidが1000、cscore0がSQL、score0が8となっていることから、IDが「1000」という検出ルールによって「SQL」というスコアが8に設定され、それによってブロックが行われていることが分かる。 NAXSIに対しWAF Testing Frameworkによるテストを実行する さて、続いてはデフォルト設定のNAXSIに対しWAF Testing Frameworkによるテストを実行してみよう。手順としてはnginx+ModSecuriy構成の場合とほぼ同様で、nginx.confにリバースプロクシ設定(「proxy_pass http://localhost:8080/;」)を追加してnginx経由

    nginx向けのWebアプリケーションファイアウォールを試す | さくらのナレッジ
    sh19910711
    sh19910711 2021/09/20
    "NAXSIはModSecurityとは異なり、リクエストを検査した結果に「スコア」を付け、そのスコアがあらかじめ設定した値を上回ったらそのリクエストをブロックする、という仕組み"
  • さくらのインターンシップ 2016夏 エンジニアコースレポート~台風とともにインターン生がやってきた!暴風が吹き荒れた五日間~ | さくらのナレッジ

    そうです。非常に強い台風10号が関東地方に接近していました。我々がお邪魔していた場所はというと、東京は新宿区・・・ ヤバい!! 「インターン二日目にして早くも休業か!?」 と独り焦っていました。 インターンシップ中に連絡手段として使っていたSlackでも・・・ 「台風がそれてくれることを祈るのみ!!!」 との通達が・・・ 不安すぎる・・・。 そんな不安の中一夜を過ごしました。 そして翌朝Slackを見てみると・・・ 「さて、心配しておりました台風ですが、東京はなんとか大丈夫そうです。日はプログラム通りに【決行】いたします!!」 とのこと。 ヤッター!!! そんなわけで無事インターンシップ二日目が始まりました。 再びラッキング 二日目最初に行ったのはサーバのラッキング。社員の方々の指導のもと、二人一組で声を出して連携しながらラッキングしました。 高価なサーバを扱うということでドキドキでし

    さくらのインターンシップ 2016夏 エンジニアコースレポート~台風とともにインターン生がやってきた!暴風が吹き荒れた五日間~ | さくらのナレッジ
  • IoTにはざっくりと分けて2つの立場がある。スマートなデバイスをつなぐか、ダムシングをつなぐかだ | さくらのナレッジ

    「IoT」 (Internet of Things、モノのインターネット)という言葉をあちこちで見かけます。世の中のあらゆる「モノ(Thing)」を、インターネットに接続する構想です。いわゆるバズワードとしてかなり強力なものと言えます。 筆者は、このIoTというキーワードをめぐり、あまりにも異なる論調の記事が入り乱れている状況に戸惑っていたのですが、「IoTにはざっくり分けて2つの立場がある」と考えると、話を整理しやすいことに気がつきました。以下、この考え方について説明していくことにします。 1番目の考え方は、あらゆる「モノ」、家電機器、工作機械、建機、自動車などを、プログラマブルでエンド・ツー・エンドなインターネット端末にしてしまう考え方です。今回の記事では、このようなデバイスを「スマートなデバイス(Smart Device)」と呼ぶことにします。 2番目の考え方は、世の中に大量に存在す

    IoTにはざっくりと分けて2つの立場がある。スマートなデバイスをつなぐか、ダムシングをつなぐかだ | さくらのナレッジ
  • さくらの20年史と新サービス電撃発表! 「第28回さくらの夕べ(さくらの聖夜)」レポート | さくらのナレッジ

    12月24日(木)に、秋葉原にあるDMM.make AKIBAにて「第28回 さくらの夕べ(さくらの聖夜) ~創業20年、みなさまの愛のおかげでした~」を行いました。当社がクリスマスの時期にイベントを行うのも3回目となり、もはや恒例となった感があります。そのせいか今回は「さくらの夕べ」史上最多の参加登録を記録しました。年末のお忙しい中を当社のために時間を割いていただき当にありがとうございます! 記事では、そんな「さくらの聖夜」の模様をたっぷりとお届けします! お宝写真大放出!さくら創業20年の歴史を振り返る トークに臨む田中(右)と鷲北 1目のトークは、当社代表の田中邦裕と当社研究所所長の鷲北賢による、創業期から現在までの振り返りでした。2人が所蔵する写真の数々を映しながら、時にはお蔵出し的なトークも交えつつ、思い出が語られました。 当社の歴史を大別すると以下のようになります。 黎明

    さくらの20年史と新サービス電撃発表! 「第28回さくらの夕べ(さくらの聖夜)」レポート | さくらのナレッジ
  • エージェントレスでシンプルな構成管理ツール「Ansible」入門 | さくらのナレッジ

    近年、ChefやPuppetなどの構成管理ツールが人気だが、新たに注目されつつある構成管理ツールとして「Ansible」がある。Ansibleは設定ファイルがシンプルで、管理対象サーバーに特別なソフトウェアをインストールすることなく利用できるなど、最小限の手間で各種設定を自動化できるのが特徴だ。今回はこのAnsibleについてその基的な使い方を紹介する。 小規模な環境でも手軽に使えるAnsible あらかじめ用意しておいた設定ファイルに従って、ソフトウェアのインストールや設定ファイルの修正、サービスの起動/停止、ネットワーク設定といったサーバーの各種設定を自動的に実行するソフトウェアを構成管理ツールと呼ぶ。代表的なものとしては、さくらのナレッジでも過去に取り上げているChefやPuppetがある。 関連記事: サーバー設定ツール「Chef」応用編:knife-soloとData Bagを

    エージェントレスでシンプルな構成管理ツール「Ansible」入門 | さくらのナレッジ
  • Puppetを使ったLinuxシステムの設定自動管理 | さくらのナレッジ

    多数のサーバーを運用している場合などに面倒なのが、サーバーごとの環境管理だ。そのため注目されているのが、サーバーの環境設定やインストールなどを自動化する設定管理ツールである。今回はその中でも比較的古くから使われている「Puppet」というソフトウェアを紹介する。 あらかじめ用意しておいた設定ファイルに基づいてサーバーのさまざまな設定を自動的に行うソフトウェアを、設定管理ツールと呼ぶ。今回紹介する「Puppet」は、スタンドアロンおよびクライアント/サーバー構成でサーバー設定を集中管理できる設定管理ツールだ。行える設定はユーザー/グループの作成やネットワーク関連の設定、パッケージのインストールなど多岐にわたる。また、「モジュール」と呼ばれる機能拡張のための仕組みも用意されており、目的に応じた「モジュール」をインストールすることで簡単に設定対象を拡張できるという特徴を持つ。モジュールは誰もが開

    Puppetを使ったLinuxシステムの設定自動管理 | さくらのナレッジ
  • これから始める「DockerでかんたんLAMP環境 for CentOS」 | さくらのナレッジ

    昨年からImmutable Infrastructureという言葉が出始めて、サーバーを簡単に作って壊すという潮流が出始めました。また、サーバー管理を簡単にするツールとしてDockerというものが脚光を浴びており、いまどきのサーバー管理者に受け入れられてきました。 今回は、そのDockerをインストールしてLAMP環境を構築するステップを見ていきたいと思います。 Immutable Infrastructureとは? IaaS型のクラウドやVPSの台頭によって、簡単に仮想サーバーが立ち上げられる環境が整ってきました。 とはいえ、サーバーの立ち上げをするのはシステム構築時と、システム規模を大きくする時に限られ、サーバーの動作を変えたり、アプリケーションのアップデートをするときは、稼働しているサーバーの中身を修正するというのが従来のやり方でした。 しかしImmutable Infrastruc

    これから始める「DockerでかんたんLAMP環境 for CentOS」 | さくらのナレッジ
  • 独自Debパッケージやaptリポジトリを使ったサーバー管理術 | さくらのナレッジ

    なお、パッケージ化するソフトウェアについて、そのオリジナルの開発者らが配布しているものを「アップストリーム(上流)」と呼ぶ。つまり、「アップストリームのソースアーカイブ」というのは、オリジナルの開発者らが配布しているソースアーカイブのことを指す。 ソースパッケージの入手 ソースパッケージを入手するには、「apt-get source <パッケージ名>」コマンドを実行すれば良い。たとえば、Apache HTTP Serverをインストールするためのapache2パッケージのソースパッケージを入手するには、以下のようにする。 $ apt-get source apache2 すると、リポジトリからソースパッケージがダウンロードされるとともに、コマンドを実行したディレクトリにパッケージ作成作業に使われる作業ディレクトリが作成され、そこにソースコードなどが展開される。以後、このディレクトリをソース

    独自Debパッケージやaptリポジトリを使ったサーバー管理術 | さくらのナレッジ
  • 高機能なLinuxベースのソフトウェアルーター「Vyatta」を使う | さくらのナレッジ

    これらはyumコマンドでインストールできる。 # yum install qemu-kvm qemu-img libvirt virt-manager libvirt-client インストールが完了したら、仮想マシンを管理するサービスであるlibvirtdを起動しておく。 # chkconfig libvirtd on # service libvirtd start 以上で仮想化関連の設定は完了だ。 ネットワークインターフェイスの設定 仮想マシン上のネットワークインターフェイス(仮想NIC)を実ネットワークに接続する方法にはいくつかがあるが、今回はブリッジネットワークを使用する。ブリッジネットワークは、ホストマシン上に仮想的に作成したブリッジインターフェイスをホストのNICおよび仮想マシン上の仮想NICに接続することで、仮想NICを直接インターネットやローカルネットワークに接続できるよ

    高機能なLinuxベースのソフトウェアルーター「Vyatta」を使う | さくらのナレッジ
  • 1