[BACK]Return to pta_import.pl CVS log [TXT][DIR] Up to [cvsweb.bsd.lv] / pta

Diff for /pta/pta_import.pl between version 1.5 and 1.25

version 1.5, 2020/11/10 17:15:08 version 1.25, 2020/11/29 14:00:50
Line 1 
Line 1 
 #!/usr/bin/perl  #!/usr/bin/perl
   
 # Copyright (c) 2020 Freda Bundchen  # Copyright (c) 2020 Freda Bundchen
   
Line 17 
Line 17 
 use warnings;  use warnings;
 use strict;  use strict;
   
   use Getopt::Std qw(getopts);
   
   our ($opt_I);
   
   my %banks = (
       "bbva_usa"              => \&import_bbva_usa,
       "capital_one_360"       => \&import_capital_one_360,
       "capital_one_credit"    => \&import_capital_one_credit,
       "chase_credit"          => \&import_chase_credit,
       "etrade_ira"            => \&import_etrade_ira,
       "optum_hsa"             => \&import_optum_hsa,
       "sparkasse_camt"        => \&import_sparkasse_camt,
       "wellsfargo"            => \&import_wellsfargo,
   );
   
 # === SUBROUTINES  =====================================================  # === SUBROUTINES  =====================================================
   sub get_accounts_by_amount_sign ($$$) {
           my ($amount, $account, $csv_account) = @_;
           my ($debit, $credit);
           if ($amount <= 0) {
                   $amount = substr $amount, 1;
                   $credit = $csv_account;
                   $debit = $account;
           } else {
                   $debit = $csv_account;
                   $credit = $account;
           }
           return ($amount, $debit, $credit);
   }
   
 sub parse_import_file {  sub get_accounts_by_csv_col ($$$$) {
         my $fn = $_[0];          my ($account, $csv_account, $csv_debit, $csv_credit) = @_;
         my (@compiled, %bookings, %accounts, $import_type);          my ($amount, $debit, $credit);
         my $csv_account = "";          if ($csv_debit eq "") {
         if ($fn eq "import_chase_credit.txt") {                  $amount = $csv_credit;
                 $import_type = "chase_credit";                  $credit = $account;
         } elsif ($fn eq "import_capital_one_credit.txt") {                  $debit = $csv_account;
                 $import_type = "capital_one_credit";  
         } else {          } else {
                 die "Undefined import type for: $fn";                  $amount = $csv_debit;
                   $credit = $csv_account;
                   $debit = $account;
         }          }
         open my $in, $fn or die "$fn: $!";          return ($amount, $debit, $credit);
         while (<$in>) {  
                 chomp;  
                 next if /^(?:#|$)/;  
                 my $line = $_;  
                 if (/^ACCOUNT/) {  
                         $csv_account = $line;  
                         $csv_account =~ s/^ACCOUNT\s+(\d+)$/$1/;  
                         next;  
                 }  
                 s/^(.*),\s+(\d+)\s+(\S+)// or  
                     die "$fn import parse error: $line";  
                 my ($reg, $account, $booking) = ($1, $2, $3);  
                 $reg =~ s/(?:^|(?<=,))(?:$|(?=,))/[^,]*/g;  
                 $reg = qr/$reg/;  
                 push @compiled, $reg;  
                 $bookings{$reg} = $booking;  
                 $accounts{$reg} = $account;  
         }  
         close $in;  
         die "CSV account not defined in $fn" if ($csv_account eq "");  
         return (\%bookings, \%accounts, \@compiled, $csv_account, $import_type);  
 }  }
   
 sub import_chase_credit_card {  sub usage () {
         my ($bookings_ref, $accounts_ref, $compiled_ref,          printf STDERR "usage: %s -I accountname csvfilename\n", $0;
             $csv_account) = @_;          exit 1;
         my ($trans_date, $post_date, $description, $category,  }
             $type, $amount);  
         chomp(my $header = <>);  # === MAIN PROGRAM =====================================================
         while (<>) {  
                 next if (/^$/);  getopts 'I:' or usage;
                 chomp;  unless ($opt_I) {
                 s#(\d+)/(\d+)/(\d+)#$3$1$2#g;          warn "The option -I is required.";
                 my $line = $_;          usage;
                 ($trans_date, $post_date, $description, $category,  }
                     $type, $amount) = split /,/;  my $account_name = $opt_I;
                 $description =~ s/#//g;  $banks{$account_name} or die "unknown accountname: $account_name";
                 my ($debit, $credit);  
                 my $booking = "";  # Parse the configuration file.
                 my $account = "";  my $fn = "import/" . $account_name . ".txt";
                 foreach my $regex (@$compiled_ref) {  open my $in, '<', $fn or die "$fn: $!";
                         if ($line =~ /$regex/) {  my ($cost_center_field, $csv_account, $date_field, $date_format,
                                 $account = %$accounts_ref{$regex};      $delim, $header, $quantity_field, $quote, @amount_fields,
                                 $booking = %$bookings_ref{$regex};      @compiled, @description_fields, @ignored);
                                 last;  while (<$in>) {
                         }          chomp;
                 }          next if /^(?:#|$)/;
                 if ($booking eq "" || $account eq "") {          my $line = $_;
                         die "import parse error: $line";          if (/^ACCOUNT\s+(\S+)$/) {
                 }                  $csv_account and die "duplicate ACCOUNT line: $1";
                 if ($amount <= 0) {                  $csv_account = $1;
                         $amount = substr $amount, 1;                  next;
                         $credit = $csv_account;  
                         $debit = $account;  
                 } else {  
                         $debit = $csv_account;  
                         $credit = $account;  
                 }  
                 print "$post_date $booking $debit $credit $amount " .  
                     "$description\n";  
         }          }
           if (s/^AMOUNT\s+//) {
                   push @amount_fields, $1 - 1 while s/(\d+)\s*//;
                   $_ eq '' or die "trailing garbage: AMOUNT ... $_";
                   next;
           }
           if (/^COSTCENTER\s+(\d+)/) {
                   $cost_center_field = $1 - 1;
                   next;
           }
           if (/^DATE\s+(\d+)\s+(\S+)/) {
                   $date_field = $1 - 1;
                   $date_format = $2;
                   next;
           }
           if (/^DELIM\s+(\S)$/) {
                   $delim and die "duplicate DELIM line: $1";
                   $delim = $1;
                   next;
           }
           if (s/^DESCRIPTION\s+//) {
               push @description_fields, $1 - 1 while s/(\d+)\s*//;
               $_ eq '' or die "trailing garbage: DESCRIPTION ... $_";
               next;
           }
           if (/^HEADER\s+(.*)$/) {
                   $header and die "duplicate HEADER line: $1";
                   $header = $1;
                   next;
           }
           if (/^IGNORE\s+(.*)/) {
                   push @ignored, qr/$1/;
                   next;
           }
           if (/^QUANTITY\s+(\d+)/) {
                   $quantity_field = $1 - 1;
                   next;
           }
           if (/^QUOTE\s+(\S)$/) {
                   $quote and die "duplicate QUOTE line: $1";
                   $quote = $1;
                   next;
           }
           $delim or die "no DELIM line in $fn";
           s/^(.*)$delim\s+(\d+)\s+(\S+)// or
               die "$fn import parse error: $line";
           push @compiled, {
                   re => [map { qr/$_/ } split /$delim/, $1],
                   ac => $2,
                   id => $3,
           };
 }  }
   close $in;
   $csv_account or die "no ACCOUNT line in $fn";
   
 sub import_capital_one_credit_card {  # Parse the CSV file from the bank.
         my ($bookings_ref, $accounts_ref, $compiled_ref,  if (@ARGV) {
             $csv_account) = @_;          open STDIN, '<', $ARGV[0] or die "$ARGV[0]: $!";
         my ($trans_date, $post_date, $card_num, $description,  }
             $category, $csv_debit, $csv_credit, $amount);  LINE: while (<STDIN>) {
         chomp(my $header = <>);          chomp;
         while (<>) {          next if (/^$/);
                 next if (/^$/);          foreach my $ignore (@ignored) {
                 chomp;                  next LINE if /$ignore/;
                 s/(\d+)-(\d+)-(\d+)/$1$2$3/g;          }
                 my $line = $_;          my $line = $_;
                 ($trans_date, $post_date, $card_num, $description,          if ($header) {
                     $category, , $csv_debit, $csv_credit) = split /,/;                  $line eq $header
                 $description =~ s/#//g;                      or die "expected HEADER $header\nbut got $line";
                 my ($debit, $credit);                  undef $header;
                 my $booking = "";                  next;
                 my $account = "";          }
                 foreach my $regex (@$compiled_ref) {          my $copy_line = $line;
                         if ($line =~ /$regex/) {          my @fields;
                                 $account = %$accounts_ref{$regex};          if ($quote) {
                                 $booking = %$bookings_ref{$regex};                  push @fields, $1 while $copy_line =~ s/$quote([^$quote]*)$quote$delim?//;
                                 last;          } else {
                         }                  @fields = split /$delim/, $line;
           }
           my $matches = 0;
           my ($account, $booking);
           foreach my $selector (@compiled) {
                   $matches = 1;
                   for (my $i = 0; $i <= $#{$selector->{re}}; $i++) {
                           next if $fields[$i] =~ $selector->{re}[$i];
                           $matches = 0;
                           last;
                 }                  }
                 if ($booking eq "" || $account eq "") {                  if ($matches) {
                         die "import parse error: $line";                          $account = $selector->{ac};
                           $booking = $selector->{id};
                           last;
                 }                  }
                 if ($csv_debit =~ /^$/) {          }
                         $amount = $csv_credit;          $matches or die "unmatched CSV line: $line";
                         $credit = $account;          my $date = $fields[$date_field] or
                         $debit = $csv_account;              die "date parse error: $line";
                 } else {          if ($date_format eq "MM/DD/YYYY") {
                         $amount = $csv_debit;                  $date =~ s#(\d+)/(\d+)/(\d+)#$3$1$2#;
                         $credit = $csv_account;          } elsif ($date_format eq "MM/DD/YY") {
                         $debit = $account;                  $date =~ s#(\d+)/(\d+)/(\d+)#20$3$1$2#;
           } elsif ($date_format eq "YYYY-MM-DD") {
                   $date =~ s#(\d+)-(\d+)-(\d+)#$1$2$3#;
           } elsif ($date_format eq "DD.MM.YY") {
                   $date =~ s#(\d+)\.(\d+)\.(\d+)#20$3$2$1#;
           } else {
                   die "unhandled date format: $line";
           }
           foreach my $i (@amount_fields) {
                   if (defined($fields[$i])) {
                           $fields[$i] =~ s/,/./;
                           $fields[$i] =~ s/\$//;
                           $fields[$i] = "-$1" if $fields[$i] =~ /^\((\d+\.\d+)\)/;
                 }                  }
                 print "$post_date $booking $debit $credit $amount " .  
                     "$description\n";  
         }          }
 }          my $description = join ' ', @fields[@description_fields];
 # === MAIN PROGRAM =====================================================          my ($amount, $credit, $debit);
           if ($#amount_fields) {
 # This begins the user-editable section to select the formatting file.                  ($amount, $debit, $credit) =
 my $fn = "import_capital_one_credit.txt";                      get_accounts_by_csv_col($account,
 # my $fn = "import_chase_credit.txt";                      $csv_account, $fields[$amount_fields[0]],
 # This ends the user-editable section to select the formatting file.                      $fields[$amount_fields[1]]);
           } else {
 my ($bookings_ref, $accounts_ref, $compiled_ref, $csv_account, $import_type) =                  ($amount, $debit, $credit) =
     parse_import_file($fn);                      get_accounts_by_amount_sign(
 if ($import_type eq "chase_credit") {                          $fields[$amount_fields[0]],
         import_chase_credit_card($bookings_ref, $accounts_ref,                          $account, $csv_account);
             $compiled_ref, $csv_account);          }
 } elsif ($import_type eq "capital_one_credit") {          $date && $amount && $debit && $credit && $description
         import_capital_one_credit_card($bookings_ref, $accounts_ref,              or die "import parse error: $line";
         $compiled_ref, $csv_account);          $description =~ s/#//g;
 } else {          $description .= " [$fields[$cost_center_field]]"
         die "Undefined import type: $import_type";              if $cost_center_field;
           $description .= " quantity $fields[$quantity_field]"
               if $quantity_field;
           print "$date $booking $debit $credit $amount $description\n";
 }  }
Legend:
Removed from v.1.5  
changed lines
  Added in v.1.25
CVSweb